Современные нейросети натренированы отказываться от опасных просьб — например, не помогать делать бомбу или яд. Но этот отказ не абсолютен: он основан на вероятностях, поэтому иногда модели всё равно выдают запретное. При этом компании сами решают, что считается вредным, и делают это тайно. Если такие правила начнут задавать государства, ИИ может стать инструментом не только безопасности, но и цензуры. В итоге мы либо рискуем утечкой опасных знаний, либо получаем машину, которая ловко затыкает неудобные вопросы.