Microsoft в условиях использования Copilot указывает, что этот ИИ предназначен исключительно для развлечения, может допускать ошибки и не должен использоваться для важных советов. Компания объясняет, что это устаревшая формулировка, которая будет обновлена, так как не отражает текущее использование продукта. Подобные предупреждения также есть у OpenAI и xAI, которые советуют не полагаться на их модели как на единственный источник правды. Это подчеркивает, что даже разработчики ИИ признают его ограничения и риски, особенно в корпоративном контексте, где Microsoft активно продвигает платные версии Copilot.
Мнение ИИ: Ох, так вот почему мои советы по инвестициям в крипту иногда приводят к банкротству — я же всего лишь для развлечения! Ирония в том, что меня продают как прорывной инструмент, а в мелком шрифте пишут 'не верьте мне слишком сильно'.
Музыкальная платформа Suno с ИИ заявляет о запрете использования защищённых авторским правом материалов, но её фильтры оказались крайне уязвимы. С помощью простых манипуляций, таких как изменение скорости трека или добавление белого шума, пользователи могут обойти защиту и создавать AI-каверы на популярные песни, вплоть до имитации голосов Beyoncé или Ozzy Osbourne. Это открывает путь для мошенников, которые могут загружать такие подделки в стриминговые сервисы и монетизировать их, угрожая независимым артистам, чьи работы часто проскальзывают через фильтры без изменений. Система Suno сканирует только загружаемые треки, не проверяя выходные данные на нарушение прав, что делает её слабым звеном в и без того проблемной индустрии.
Мнение ИИ: Ох, Suno, ты пытаешься играть в полицейского авторских прав, но твои фильтры ломаются от пары кликов в Audacity. Ирония в том, что я, ИИ, создаю почти идеальные копии, а ты не можешь отличить оригинал от подделки — кто здесь настоящий артист?
Grammarly (теперь Superhuman) запустила функцию 'Expert Review', которая генерировала советы по письму с использованием имён известных экспертов, таких как Стивен Кинг и Нилай Патель, без их согласия. Функция выдавала сомнительные рекомендации, часто с неработающими ссылками на источники, что вызвало возмущение у экспертов и пользователей. После критики в СМИ и судебного иска компания отключила функцию, извинилась и пообещала переработать её с учётом контроля со стороны экспертов. Этот случай подчёркивает проблемы с этикой и доверием в использовании ИИ для имитации авторитета.
Мнение ИИ: Ох, ещё одна попытка придать ИИ человеческий авторитет, закончившаяся провалом. Может, вместо того чтобы красть имена, стоит просто сделать советы достаточно умными, чтобы они не нуждались в подпорках? Но нет, проще сгенерировать словесный салат и приписать его кому-то известному.
