Британский стартап Mirai привлек $10 млн

Большая часть разговоров вокруг искусственного интеллекта сегодня сосредоточена на создании облачных мощностей и крупных дата-центров для работы моделей. В то время как компании такие как Apple и Qualcomm находятся на ранних стадиях внедрения искусственного интеллекта непосредственно на устройствах, команда из 14 технических специалистов лондонской компании Mirai работает над улучшением работы моделей на смартфонах и ноутбуках.

Mirai, которая получила финансирование в виде посевного раунда объемом 10 миллионов долларов на платформе Uncork Capital, была основана Димой Швецом и Алексеем Моисеенковым в прошлом году. Обе команды имеют опыт разработки масштабируемых приложений для потребительского рынка. Швец был соучредителем приложения для замены лиц Reface, которое получило поддержку фонда a16z. Позже он также выступал в роли ментора для венчурной компании. Моисеенков возглавлял и стал соучредителем популярного последнего десятилетия приложения для создания AI-фильтров Prisma.

В своих размышлениях о развитии технологий оба основателя задумывались о применении искусственного интеллекта и машинного обучения на устройствах задолго до того, как идея генеративного AI получила широкое распространение, рассказывает Швец.

«Когда мы встретились в Лондоне и начали обсуждать технологии, мы поняли, что в условиях ажиотажа вокруг генеративного AI и ускорения интеграции искусственного интеллекта в различные сферы большинство говорят о облаке, серверах и универсальном искусственном интеллекте будущего. Но пропущенным звеном остается именно использование AI на самом устройстве в потребительских гаджетах», — сообщил он TechCrunch.

Швец и Моисеенков поставили перед собой задачу создать такую инфраструктуру, которая позволит выполнять сложные задачи прямо на смартфоне. Это и стало отправной точкой их работы над Mirai. Исследования показали, что многие разработчики приложения также сталкиваются с вопросами оптимизации затрат и увеличения маржинальности на каждый использованный токен. В настоящий момент компания создаёт платформу, позволяющую моделям работать эффективнее на устройствах. Среди решений — инференс-движок, оптимизированный для процессора Apple Silicon, который увеличивает пропускную способность устройств. В ближайшее время ожидается запуск SDK, позволящего интегрировать этот движок в приложения всего за несколько строк кода.

«Одна из наших целей заключалась в том, чтобы дать разработчикам возможность быстро и без лишних усилий интегрировать AI-функции в свои продукты, примерно по аналогии с платформа́ми, такими как Stripe. Просто заходите на нашу платформу, вставляете ключ, и уже можете использовать возможности по суммированию, классификации или другим задачам», — отметил Швец.

Компания создала этот инференс-движок на языке Rust, который, по утверждению, увеличивает скорость генерации моделей до 37 процентов. При этом Mirai не изменяет веса моделей во время оптимизации, что позволяет сохранять качество выходных данных на высоком уровне.

Текущая версия стеков Mirai сосредоточена на улучшении возможностей обработки текстовых и голосовых данных. В будущем команда планирует добавить поддержку визуальных задач. Сейчас она сотрудничается с поставщиками передовых моделей, настраивая их под работу на периферии, и ведет переговоры с различными производителями чипов. В дальнейшем компания намерена распространить свой движок и на платформу Android.

Кроме того, Mirai собирается представить на рынке собственные бенчмарки для оценки производительности моделей на устройстве. Швец признает, что не все задачи AI можно решить на устройствах, поэтому команда разрабатывает слой оркестрации для направления запросов, которые не могут быть выполнены локально, в облако.

Несмотря на то что стартап пока не интегрирован непосредственно в приложения, его движок потенциально способен обеспечить работу виртуальных помощников, транскрибаторов, переводчиков и чат-ботов прямо на устройствах пользователей, рассказывают источники.

Андри МакЛафлин, управляющий партнер Uncork Capital, отметил, что инвестировал в компанию, разработчикающую решения в области edge-машинного обучения, еще в прошлое десятилетие. Тогда этот проект был достаточно ранним и был впоследствии продан Spotify. Сегодня ситуация, по его словам, иная.

«С учетом стоимости облачных вычислений для inference что-то должно измениться. На данный момент венчурные фонды продолжают активно финансировать компании, которые занимаются этим, вкладывая огромные суммы в облачные решения. Но эта ситуация не продлится вечно — рано или поздно начнутся разборы с точки зрения экономической эффективности, и появится необходимость менять подходы», — считает МакЛафлин. «Кажется, что каждый создатель моделей без труда захочет запускать часть своих вычислительных задач прямо на устройстве, и Mirai обладает всеми шансами занять конкурентную нишу в этом сегменте».

В посевном раунде Mirai также приняли участие отдельные инвесторы, среди которых руководитель компании Dreamer Дэвид Синглтон, партнер Y Combinator Франсуа Шобар, соучредитель Snowflake Марчин Жукоски, соучредитель ElevenLabs Мати Станищевский, бывший менеджер по продукту Google AdSense и член совета Coinbase Гокул Раджарам, инвестор Groq Скюутер Браун, технический руководитель Turing.com Вайджай Кришнан, основатели Theory Forge Ventures Бен Парр и Мэтт Шлихт, а также бывший технический руководитель Netflix Адижитай Джами.