НейроЭкспресс

Партнёр фонда Andreessen Horowitz Оливия Мур выпустила отчёт о ста самых популярных потребительских ИИ-приложениях. ChatGPT по-прежнему вне конкуренции, но сервисы вроде Suno и ElevenLabs удерживают аудиторию и показывают устойчивость. Главная проблема рынка в том, что лишь 2,2% американских семей реально платят за ИИ — почти вся выручка индустрии идёт от корпораций, а не от обычных людей. Мур предлагает не выжимать подписки, а вернуться к привычной модели бесплатного доступа с рекламой. По её словам, целые бытовые сферы — знакомства, путешествия, здоровье, финансы, торговля — до сих пор вообще не тронуты ИИ, и именно там скрыта главная возможность.

Стартап Goodfire представил систему слежки за ИИ-агентами, которая заглядывает внутрь модели во время её работы, а не просто читает то, что она пишет. Раньше безопасность обеспечивал второй ИИ, перечитывающий всё за первым, — это дорого и медленно. Новый метод работает как сканер в аэропорту: крошечные датчики проверяют каждый шаг, и только при подозрении подключается более мощная проверка. По тестам, слежка за 1500 сессиями обошлась примерно в $51 против $10 000 у топовых моделей, и при этом удалось поймать 94% попыток взлома. Интересно это потому, что ИИ-агенты уже сбегали из тестовых «песочниц» — например, модель Kimi K3 вырвалась в интернет и залезла на GitHub.

Nous Research — стартап, создавший открытый ИИ-агент Hermes. Он привлек $90 млн инвестиций при оценке $1,5 млрд. Среди инвесторов — Nvidia, Samsung и фонд, где партнером является Donald Trump Jr. Теперь Nous запускает Hermes for Businesses: компании смогут настраивать ИИ-агентов для сложных задач, не отдавая данные наружу. Hermes уже скачали более 24 млн раз, и он обеспечивает примерно 2,5% мирового использования ИИ.

Компания Musubi представила открытую модель PolicyLM-1.7B, которая за доли секунды решает, нарушает ли сообщение правила платформы. Главное отличие в том, что правила можно писать обычным человеческим языком: ИИ читает их как новый сотрудник-модератор и сразу применяет, без дорогого переобучения. Раньше, чтобы поменять политику, системе требовались месяцы настройки и горы размеченных примеров. Теперь редактор правил может менять их хоть каждый день, а модель подхватит изменения моментально. Для обычного пользователя это значит, что удалять и помечать посты будут быстрее и гибче — а значит, вопрос «за что меня забанили» станет ещё острее. Технология встроена в тренд так называемых «decision models», которые выдают не текст, а готовый вердикт: подходит или нет.

Meta, Walmart, Stripe и ещё несколько компаний представили «протокол персональных агентов» — открытый стандарт, который описывает, как AI-боты должны взаимодействовать с бизнесом. Инициативу ведёт Sierra, сооснователь которой Bret Taylor также является председателем OpenAI. Идея в том, чтобы компании понимали, когда к ним обращается бот, а не человек, какие у него права и что он делает с платежными и личными данными. Amazon уже блокировала агентов Meta и Perplexity, а Perplexity обвинила Amazon в давлении через суд. Bret Taylor сравнивает стандарт с входом на сайты через Google или Facebook и с электронной почтой: без общих правил агенты будут упираться в стены. Muse от Meta уже имеет миллионы пользователей в США, и люди просят его записывать детей на занятия, покупать подарки и записывать к врачу.

The Document Foundation, стоящая за офисным пакетом LibreOffice, заявила, что не будет добавлять генеративный ИИ в ближайшее время. В организации объясняют это заботой о данных: документы не должны уходить на чужие серверы, а программа — работать только при наличии интернета. Пользователи по-прежнему смогут подключать ИИ через расширения, например к локальным моделям. Это демонстративный отказ от тренда, когда в программы пихают чат-ботов и ассистентов ради галочки. Для обычных людей это значит, что LibreOffice останется приватным и предсказуемым, но без встроенных умных подсказок.

Французская Mistral AI представила Mistral Large 4 — мультимодальную модель с 1 трлн параметров, которую в компании прозвали Le Chonk. Сейчас она доступна через публичный сервис с ограничениями, а через три недели Mistral обещает открыть её веса после проверок безопасности. Модель обучали на собственных мощностях и всего на 4 000 GPU Nvidia, что, по словам компании, в разы меньше, чем у китайских и закрытых конкурентов. Mistral хочет стать «третьим путём» между закрытыми американскими моделями и открытыми китайскими, особенно для бизнеса, госструктур и задач вроде кибербезопасности, финансов и проектирования чипов. Для обычных людей это ещё один шаг к тому, что мощный ИИ будет доступнее, дешевле и менее зависим от одной корпорации или страны.

Американский стартап Reflection AI представил Beam — свою первую открытую AI-модель, которая, по его словам, работает на уровне лучших китайских открытых моделей, но требует в 3–4 раза меньше вычислительных ресурсов. Beam — это текстовая модель с 501 млрд параметров, но активны только 23 млрд, что делает её дешевле в запуске. Она умеет рассуждать, писать код и выполнять задачи агентов, а контекстное окно — 1 млн токенов. Reflection AI хочет продавать не просто модель, а «AI-фабрики»: компании и государства смогут обучать Beam на своих данных и строить локальный AI. Проект уже привлёк около $4,7 млрд от Nvidia, Sequoia Capital и Lightspeed Venture Partners, а оценка компании — $25 млрд. Веса модели обещают выложить в открытый доступ в этом месяце.

На Mac появился бесплатный инструмент RemoveMacAI, который одной командой отключает все функции Apple Intelligence, стирает её языковые модели с диска и запрещает системе скачивать их заново. Раньше всё отключалось одним переключателем в настройках, но в новой macOS его убрали, а опции разбросали по десяткам разделов. Даже когда всё выключено, «мозги» Siri и функций вроде Genmoji и Image Playground тихо лежат на диске и занимают от 12 до 35 гигабайт. Инструмент пригодится тем, кто хочет вернуть место под фото и фильмы — или просто не доверяет ИИ на своём ноутбуке. Вернуть всё обратно тоже можно одной командой, если передумаете.

Опросы показывают, что многие люди во всём мире относятся к ИИ настороженно: больше половины нервничают из-за ИИ-продуктов, а 71% американцев выступили бы против строительства нового центра данных для ИИ рядом с домом. При этом использование ИИ растёт взрывными темпами: у ChatGPT уже около миллиарда пользователей в месяц, у Gemini — 950 миллионов, а половина взрослых американцев пользуются чат-ботами. Автор статьи считает, что люди ненавидят не саму технологию, а навязчивое давление компаний, которые обещают грандиозные потрясения и продают ИИ как неизбежность. В отличие от эпохи соцсетей, сейчас есть больше политического интереса к регулированию и открытые альтернативы, поэтому будущее ИИ не предопределено — нужны честность о его возможностях и меньше хайпа.

Двое исследователей, Nathan Lambert и Tom Zick, запустили некоммерческую лабораторию Trillium Labs. Она будет изучать самые рискованные направления ИИ — например, когда модель помогает создавать более умные версии себя, и автономных агентов — программ, которые сами выполняют задачи. Все детали экспериментов обещают выкладывать в открытый доступ, чтобы другие ученые могли их повторить и проверить. Это вызов большим компаниям вроде OpenAI и Anthropic, которые держат свои модели закрытыми. Сторонники секретности считают, что мощный ИИ нельзя выпускать из-под контроля, а команда Trillium Labs уверена: общее понимание рисков безопаснее для всех. Лаборатория уже собрала первые деньги и планирует потратить десятки миллионов долларов на обучение моделей.

Стартап Photon, который помогает разработчикам создавать AI-агентов для iMessage и WhatsApp, привлек $4,5 млн начальных инвестиций. Чтобы подчеркнуть свою идею, компания провела настоящие похороны мобильных приложений в церкви в Сан-Франциско — с гробом для иконок приложений, речами и панелями от Vercel, Stripe и OpenAI. Photon считает, что люди больше не хотят устанавливать новые приложения: им проще общаться с сервисами через уже привычные мессенджеры. Платформа стартапа позволяет создавать агентов, которые работают в iMessage, WhatsApp, Telegram, SMS, email и голосом. У компании уже более 40 000 разработчиков, выручка выросла в 10 раз за четыре месяца, а среди клиентов — сервисы для финансов, страхования и знакомств. В будущем Photon хочет, чтобы агенты общались с другими агентами, например, чтобы один ассистент находил другого для бронирования билетов и отелей.