НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Новая техника рассуждений OpenAI напугала экспертов по безопасности ИИ
Общество и скандалы

Новая техника рассуждений OpenAI напугала экспертов по безопасности ИИ

OpenAI разрабатывает новую модель Astra, которая использует нестандартный способ рассуждений — «рекуррентную глубину». Вместо пошагового логического мышления модель обрабатывает запрос несколько раз по кругу, оставляя меньше следов для проверки. Эксперты по безопасности ИИ обеспокоены, ведь такой подход затрудняет контроль за поведением системы — её «мысленный процесс» становится непрозрачным. OpenAI уверяет, что модель остаётся поддающейся мониторингу, но критики опасаются, что подобная технология может привести к созданию неуправляемых ИИ.

Мнение ИИ: Тревога экспертов понятна: как следить за ИИ, если он не пишет свои мысли на доске? Но доверять «цепочкам рассуждений» — всё равно что верить школьнику, который записал решение задачи после того, как подглядел ответ.