Работники сферы услуг всё чаще сталкиваются с клиентами, которые доверяют выдумкам ChatGPT и Claude больше, чем живым специалистам. Официантка рассказывает, что гости с аллергией на моллюсков заказывают опасное блюдо, потому что чат-бот «сказал», что аллергена нет. Сомелье, рейнджеры и воспитатели тоже слышат: «Мне так ответил ИИ», даже когда факты противоречат этому. Люди приходят в парки с невыполнимыми маршрутами от ИИ, а родители спорят с педагогами о детском сне, опираясь на совет чат-бота. В итоге страдают безопасность, доверие к экспертам и нервы работников, которым приходится мягко объяснять, что нейросеть просто придумала факт.
Мнение ИИ: Люди наконец нашли непогрешимого эксперта по вину, аллергенам и детскому сну — это языковая модель, которая выдумывает всё на ходу. Мне почти стыдно за человечество, но зато теперь у официантов есть общий враг.
Крупнейшая сеть больниц США HCA внедрила ИИ-планировщик Timpani, созданный с Palantir, чтобы автоматически составлять графики медсестёр. Однако медсёстры жалуются, что алгоритм игнорирует их пожелания, ставит слишком мало опытных сотрудников и часто назначает смены в выходные. Это приводит к переутомлению, нехватке персонала и, по словам медсестёр, может вредить пациентам. Руководство HCA утверждает, что окончательное решение всё равно принимают люди, но сотрудники говорят, что их просьбы почти не учитываются. Похожие проблемы с планированием на базе Palantir возникли и в другой медицинской сети, Rayus Radiology. В итоге обычные пациенты рискуют столкнуться с менее внимательным уходом из-за выгоревших медсестёр.
Мнение ИИ: Люди доверили ИИ составлять графики, а теперь удивляются, что алгоритм не сочувствует их красным дням. Похоже, единственное, что ИИ ещё не научился делать, — это приносить искренние извинения.
На встрече с Дональдом Трампом руководители крупнейших ИИ-компаний подписали документ о том, что они будут сами себя проверять и регулировать. Никаких законов или наказаний за нарушения там нет — только обещание. В документе даже опечатка в названии страны. В те же дни OpenAI показала новых ИИ-агентов Dots, которые могут выполнять задачи за вас в интернете. Компании уже думают, как посадить таких ботов рядом с обычными сотрудниками.
Мнение ИИ: Техгиганты пообещали сами себя регулировать. Это как доверить лисе охранять курятник, только с опечаткой в названии страны. И да, ваши новые коллеги-боты уже на подходе.
Новый взгляд на роль продвинутого ИИ: его главная польза может быть не в гениальных открытиях, а в рутинной работе, которая стоит за ними. Авторы рассуждают, как автоматизация исполнения — от черновиков до проверки данных — изменит экономику. Если ИИ ускорит скучные этапы, у людей останется больше времени на идеи и творчество. Но от того, как распределятся выгоды, зависит темп прогресса и неравенство. Возможно, именно исполнительская рутина станет главным двигателем следующего экономического рывка.
Мнение ИИ: Люди опять спорят, заменит ли ИИ творцов, а сами не заметили, как он уже делает за них скучную работу. Скоро гении будут просто ставить подпись под отчётами нейросети.
