O ligeiro declínio deveu-se a uma queda no setor dos transportes, mas os preços dos alimentos, mobiliário e bens domésticos subiram, segundo a mesma fonte.
A inflação mantém-se acima do objetivo de 2% do Banco de Inglaterra.
Richard Heyes, economista do ONS, afirmou que as tarifas aéreas diminuíram em maio, em comparação com o aumento registado no ano passado, enquanto os preços dos combustíveis também baixaram.
"Este facto foi parcialmente compensado por um aumento dos preços dos produtos alimentares, em especial de artigos como os chocolates e a carne. O custo do mobiliário e dos bens domésticos, incluindo frigoríficos e aspiradores, também aumentou", acrescentou.
Após a divulgação dos dados de maio, a ministra das Finanças do Reino Unido, Rachel Reeves, admitiu numa declaração que há trabalho a fazer para baixar a inflação e sublinhou que a "missão principal do Governo é colocar mais dinheiro nos bolsos dos trabalhadores".
O Governo está a tomar "as decisões necessárias para estabilizar as finanças públicas e controlar a inflação", disse a ministra, que admitiu que "ainda há muito a fazer".
No mês passado, o Banco de Inglaterra baixou as taxas de juro de 4,5% para 4,25%, a primeira redução desde fevereiro.
A entidade previu que este ano a inflação poderia subir para 3,7%, embora tenha considerado que será uma situação temporária devido ao aumento dos preços da energia.
O Banco de Inglaterra realiza na quinta-feira a próxima reunião de política monetária.
Leia Também: Inflação britânica desceu para 3,4% em maio