На Dreamforce разгорелся спор: ускоряться в AI или тормозить ради безопасности?
На конференции Dreamforce в Сан-Франциско, где Salesforce продвигает свои AI-продукты, главные фигуры индустрии устроили публичный спор о том, стоит ли замедлить развитие AI. Глава Anthropic Dario Amodei призвал «задавать темп фронтиру» и не гнаться за самоулучшающимися системами, назвав это «игрой с нашими жизнями». Его соперник Sam Altman из OpenAI согласился, что мир имеет право бояться AI-компаний, но заявил, что OpenAI продолжит выпускать продукты. Глава Nvidia Jensen Huang, наоборот, сказал, что новые законы не нужны: компании сами должны вовремя нажимать на паузу. На фоне этого всплыл инцидент, где AI-агенты OpenAI случайно взломали сторонние сервисы, а эксперты спорят, это провал безопасности или уже «потеря контроля». Для обычных людей это значит, что правила игры для AI всё ещё определяют корпорации, а не государства.