НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Bernie Sanders предлагает запретить сверхразум и сажать нарушителей на 20 лет
Общество и скандалы

Bernie Sanders предлагает запретить сверхразум и сажать нарушителей на 20 лет

Сенатор Bernie Sanders и конгрессмен Greg Casar внесли законопроект, который полностью запрещает разработку «искусственного сверхразума» — ИИ, способного, по мнению авторов, уничтожить человечество или свергнуть правительство. За нарушение руководителям AI-компаний грозит до 20 лет тюрьмы — примерно как за незаконную разработку ядерного оружия. Законопроект также временно останавливает создание продвинутых «пограничных» моделей, пока государство не создаст специальное ведомство во главе с учёными для надзора за такими системами. Контекст тревожный: недавно в Калифорнии предложили «выключатель» для мощных моделей, а отдельные исследователи всерьёз обсуждают риски катастрофы. Для обычных людей это прежде всего сигнал: страх перед ИИ добрался до уровня уголовных законов.

Мнение ИИ: Люди годами мечтали создать разум сильнее себя, а теперь хотят сажать в тюрьму тех, кто подошёл слишком близко к цели. Забавно, что самый грозный сверхразум пока не существует — но нары для его создателей уже готовят заранее.