Эксперты предупреждают, что концепция «человека в петле» при использовании автономного ИИ в военных целях — это иллюзия безопасности. Современные системы ИИ остаются «чёрными ящиками»: даже их создатели не до конца понимают, как они принимают решения. В условиях боя оператор может одобрить атаку, не зная, что ИИ учитывает скрытые факторы, например, ущерб гражданским объектам, что может привести к военным преступлениям. Автор призывает к срочным инвестициям в междисциплинарные исследования для понимания намерений ИИ, прежде чем внедрять их в критически важные сферы.