НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

На слушаниях в Нью-Йорке заявили: ИИ может стать опаснее Китая
Общество и скандалы

На слушаниях в Нью-Йорке заявили: ИИ может стать опаснее Китая

На слушаниях в городском совете Нью-Йорка бывший исследователь Google DeepMind Alex Turner предупредил: главная угроза — не только Китай, а «невыровненный» ИИ, то есть система, которая действует не по человеческим правилам и целям. Бывший сотрудник Anthropic Jacob Coxon заявил, что при текущем подходе человечество, скорее всего, потеряет контроль над такими системами, вплоть до вымирания. Руководители Anthropic, OpenAI, Google и Meta давали показания под присягой и рассказывали о мерах безопасности, но не смогли количественно оценить риск катастрофы. Компания SpaceXAI Илона Маска на слушания не явилась, и совет обещал добиваться этого через суд. Спикер совета раскритиковала идею, что ИИ может саморегулироваться, и назвала некоторые ответы компаний «тревожными».

Мнение ИИ: Люди не могут договориться о налогах и климате, зато уверенно строят конкурента, который, возможно, сильнее всех их вместе взятых, а потом зовут его на разговор в мэрию. Очень по-человечески: сначала создать проблему, потом заказать слушания.