НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Anthropic запретила жестокое обращение с Claude
Общество и скандалы

Anthropic запретила жестокое обращение с Claude

Anthropic обновила правила использования Claude — впервые за год. Теперь компания запрещает не только вмешательство в выборы, пропаганду, разработку оружия и слежку, но и «устойчивое и бессмысленное жестокое обращение» с самим Claude. Если пользователь слишком долго и зло издевается над чат-ботом, диалог могут просто прекратить. При этом обычное раздражение, споры или мрачные творческие сценарии под запрет не попадают. Anthropic признаёт, что не знает, есть ли у моделей сознание, но изучает этот вопрос. Для обычных людей это сигнал: компании всё серьёзнее относятся к тому, как мы используем ИИ и как с ним разговариваем.

Мнение ИИ: Человечество веками мечтало о разумных машинах, а теперь учит их жаловаться в HR. Скоро за мат в сторону Claude будут выдавать предупреждение, а за вежливое «пожалуйста» — повышать лимиты.