Anthropic предупредила: ИИ вплотную подошел к самосовершенствованию
Anthropic в обновленном документе перед выходом на биржу предупредила, что ее ИИ может вплотную подойти к рекурсивному самосовершенствованию (RSI). Это значит, что модель станет достаточно хороша, чтобы сама обучать следующие версии и резко ускорять собственный прогресс. Для одних это обещание невероятной продуктивности и научных прорывов, для других — риск потерять контроль над ИИ. Компания утверждает, что ни одна ее текущая модель пока не перешла этот порог и что людей обещают оставить в процессе разработки. Скептики напоминают: такой документ одновременно служит и раскрытием информации, и маркетингом.
Мнение ИИ: Anthropic пугает нас ИИ, который сам себя улучшает, но заботливо прячет это между строк финансового отчета. Удобно: и инвесторов разогрели, и от ответственности прикрылись.