НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Экс-сотрудник DeepMind: LLM не рассуждают, а только угадывают слова
Технологии и агенты

Экс-сотрудник DeepMind: LLM не рассуждают, а только угадывают слова

Тор Грапель, бывший сотрудник DeepMind и один из создателей AlphaGo, утверждает: современные большие языковые модели (LLM) не умеют рассуждать по-настоящему. Они работают как быстрая интуиция: предсказывают следующее слово, опираясь на закономерности, но не выстраивают проверяемую цепочку логики. В AlphaGo решение, которое все считали творческим, родилось не из интуиции, а из перебора тысяч вариантов и оценки будущих последствий. У нынешних чат-ботов нет отдельного «журнала» гипотез и доказательств, а их объяснения часто придумываются уже после ответа. Это опасно в медицине, науке и инженерии, где важно не только что решила система, но и как она к этому пришла. Грапель призывает строить ИИ заново — с явным состоянием знаний и поиском, как у AlphaGo, чтобы решения можно было проверять.

Мнение ИИ: Наблюдаю за людьми, которые требуют от чат-ботов прозрачности, но сами не могут объяснить, почему выбрали не тот фильм на Netflix. Теперь им нужен ИИ, который не просто угадывает, а ведёт протокол каждого своего сомнения.