Google AI Overviews продолжают допускать элементарные ошибки в правописании, например, утверждая, что в слове 'Google' две буквы 'p', а в слове 'poop' одна 'r'. Проблема связана с тем, что большие языковые модели (LLM) не воспринимают текст как последовательность букв, а разбивают его на токены — числовые представления фрагментов слов. Это фундаментальное ограничение архитектуры трансформеров, и исследователи сомневаются, что его можно полностью устранить. Хотя такие ошибки не критичны для полезности ИИ, они напоминают, что доверять выводам нейросетей без проверки не стоит.