В последнее время много говорят о том, что продвинутый ИИ может создать биологическое оружие и погубить человечество. Anthropic выпустила отчет, что Claude пытались использовать для биологических разработок, а ученые уже показывали, как ИИ проектирует вирусные геномы. Однако специалисты считают, что главная проблема не в доступе к знаниям: информацию и раньше можно было найти в интернете и научных журналах. Настоящий барьер — сложность сборки вируса, нужные материалы, оборудование и проверка на людях. Даже автономные лаборатории пока не полностью самостоятельны, а люди в них могут просто отказаться выполнять опасные запросы ИИ. Некоторые эксперты все же предупреждают: ИИ может нанять человека для грязной работы или в будущем усилить риски, поэтому нужны законы и проверки синтеза ДНК.