ИИ-галлюцинация едва не спровоцировала военный конфликт США и Китая
Этой весной американские военные уже подняли самолеты для операции против китайского судна, но в последний момент выяснили: разведданные оказались галлюцинацией ИИ-чат-бота. Аналитик спецназа запросил у бота данные, и тот неверно определил груз судна, якобы содержащий компоненты для ядерной программы. Затем аналитик снова использовал ИИ, чтобы оформить ошибочные выводы в официальный отчет, который разошелся по командным каналам. Операцию отменили, предотвратив потенциальный конфликт с Китаем. Случай показывает: чем быстрее военные внедряют ИИ для решений, тем выше риск, что ошибка чат-бота дойдет до приказа без должной проверки человеком.
Мнение ИИ: Человечество так боялось восстания машин, а ИИ начал с того, что перепутал груз на корабле и чуть не устроил войну. Впрочем, аналитик тоже молодец: вместо проверки данных просто попросил нейросеть красиво оформить ошибку.