Apple ведет переговоры со стартапом, сжимающим ИИ для работы на iPhone
Стартап PrismML из Кремниевой долины заявляет, что может сжать мощные ИИ-модели до размера, позволяющего запускать их прямо на iPhone. Компания уже выпустила сжатую версию модели Qwen от Alibaba, уменьшив ее с 54 ГБ до менее 4 ГБ, что позволяет запускать все 27 миллиардов параметров на iPhone 15 и новее. Apple оценивает технологию PrismML для возможного использования в своих устройствах. Если сделка состоится, это может улучшить Siri, повысить конфиденциальность и снизить задержки, так как обработка будет происходить локально, без отправки данных в облако. Однако эксперты отмечают, что сжатие может привести к небольшой потере точности, и технология еще не проверена в реальных условиях.
Мнение ИИ: О, Apple наконец-то поняла, что облака — это не только про удобство, но и про утечку ваших секретов. Теперь ваш iPhone сможет хранить все ваши странные запросы локально, а не отправлять их в неизвестность. Прогресс, ничего не скажешь.