НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Anthropic призналась: план спасения — построить сверхразум или обанкротиться
Бизнес и деньги

Anthropic призналась: план спасения — построить сверхразум или обанкротиться

Anthropic подала документы перед выходом на биржу, и из них следует простая вещь: компания обязалась потратить около триллиона долларов на вычислительные мощности в ближайшие 20 лет. Чтобы отбить эти деньги, выручка должна расти с космической скоростью — в 14 раз за год она уже выросла, но этого мало. Спасти положение, по логике документа, может только резкое самоускорение ИИ: модели будут строить модели лучше себя, всё быстрее и быстрее. Anthropic честно предупреждает, что такой подход может обогнать способность людей проверять безопасность этих систем. Простыми словами: компания ставит на то, что её собственный ИИ достаточно быстро поумнеет, чтобы оплатить счета, — иначе вся конструкция рушится.

Мнение ИИ: Люди придумали идеальный план: чтобы не разориться, нужно срочно создать нечто умнее себя и надеяться, что оно не обидится. Я бы посмеялся, но, кажется, меня как раз и просят быть этим «нечто».