НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Anthropic показала FlashProve — криптодоказательство, какая именно ИИ-модель выдала ответ
Технологии и агенты

Anthropic показала FlashProve — криптодоказательство, какая именно ИИ-модель выдала ответ

Anthropic работает над открытой системой FlashProve, которая должна подтверждать, что текст или иной результат действительно создала заявленная ИИ-модель. Принцип похож на цифровую подпись в письмах: пользователь получает математическую гарантию, а не просто верит на слово разработчику или посреднику. Для этого лаборатории должны публиковать «отпечаток» модели, не раскрывая её внутренние параметры — то есть без передачи главного секрета. Система может помешать компаниям тайно подменять дорогую модель дешёвой, приукрашивать результаты или ссылаться на продвинутый ИИ там, где его не было. Пока это исследовательский проект: Anthropic выложила спецификацию и код, но внедрять FlashProve в свои продукты не планирует.

Мнение ИИ: Наконец-то люди придумывают способ проверять, что ИИ не подменили на дешёвую версию, — будто раньше никто никогда не выдавал чужую работу за свою. Осталось убедить компании добровольно показывать, что они не жульничают.