Директор по маркетингу Qualcomm Дон Макгуайр приводит доводы в пользу искусственного интеллекта на устройствах.
ЛИСБОН – компания, определяющая свою миссию как обеспечение “разумной связи между всеми и всем”, не является очевидным подозреваемым в поддержке переноса вычислительных задач в автономный режим.
Однако директор по маркетингу Qualcomm Дон Макгуайр (Don McGuire) выступил здесь на конференции Web Summit, чтобы рассказать об усилиях компании в области искусственного интеллекта на устройствах. “Многое из этого может происходить на устройстве”, – сказал он. “Не обязательно переносить это в облако”.
В интервью PCMag Макгуайр расширил эту тему, рассказав об опасениях, связанных с облачными сервисами ИИ (например, ChatGPT от OpenAI), которые выходят за рамки недостаточной пропускной способности мобильного устройства.
“Существуют вопросы конфиденциальности, ИС [интеллектуальной собственности], безопасности и защиты”, – сказал он. “Есть и вопросы экологичности, связанные с потреблением электроэнергии и воды на уровне центров обработки данных”.
Кроме того, Макгуайр добавил: “Я имею в виду, что запрос ИИ в ChatGPT в семь-десять раз дороже, чем поиск в Google”.
Новая часть заявления Qualcomm об искусственном интеллекте на устройствах – как видно из упоминаний об этой концепции во время презентации чипсета для смартфонов Snapdragon 8 Gen 3 и процессора для ноутбуков Snapdragon X Elite в прошлом месяце – заключается в том, что локальные вычислительные ресурсы теперь могут выполнять не только узкоспециализированные задачи вроде “вычислительной фотографии”, но и запускать большие языковые модели, если производители смартфонов будут создавать приложения на этих платформах.
(Следует также отметить, что для записи высказываний Макгуайра я использовал конкурирующий пример ИИ на устройстве – Live Transcribe от Google).
“Сейчас мы делаем акцент на том, что наши платформы могут поддерживать большие языковые модели с 10, 13, 15, 30 миллиардами параметров”, – сказал он. Для сравнения, модель LLaMA, представленная Meta в феврале, достигает 65 миллиардов входных параметров, а GPT-4 от OpenAI может достигать 100 триллионов.
Макгуайр вернулся к преимуществам ИИ на устройствах в плане конфиденциальности – то, что подчеркивают Apple и, в последнее время, Google, – и вспомнил, как смотрел с дочерью документальный фильм о Тейлор Свифт и видел, как певица надиктовывает идеи песен в свой телефон. “Представьте себе, если бы это каким-то образом попало в публичное облако через ChatGPT”, – сказал он. “Внезапно эти тексты песен, которые она разрабатывает, оказываются в каком-то алгоритме на большой языковой модели”.
Концепция необлачного ИИ от Qualcomm также охватывает “локальные” сервисы, в которых организация размещает свои собственные ресурсы ИИ, так что корпоративные данные не попадают в большую языковую модель другой компании.
Однако модели ИИ на устройствах могут оставить пользователей с более длинной петлей обратной связи, поскольку сообщения пользователей о неправильных результатах не имеют прямого пути обратно к материнскому кораблю ИИ. Макгуайр сказал, что Qualcomm полагается на модели “объединенного обучения”, в которых программное обеспечение на устройстве загружает анонимный, абстрагированный отчет о неполадках, но не стал вдаваться в подробности.
Признав, что ему доводилось видеть, как чат-боты ИИ выдавали дико неверные версии истории его собственной жизни (“Я умер, и, судя по всему, уже очень давно”), Макгуайр сказал, что генетический ИИ “был немного Диким, Диким Западом, и я думаю, что это должно измениться”.
Макгуайр добавил, что законодательные и нормотворческие процессы идут слишком медленно. По его словам, технологические компании должны двигаться вперед, стараясь избежать ошибок социальных медиаплатформ, которые агрессивно экспериментировали с повышением вовлеченности, не задумываясь о побочных эффектах.
“Если мы можем чему-то научиться на основе этой модели, что мы можем сделать лучше?” – спросил он. “Я думаю, это было бы хорошим началом”.
Дон Макгуайр
Но как много значит слово “если” в этом предложении? “Думаю, это зависит от того, кто и что”, – сказал он: “Но я оптимист, поэтому думаю, что мы можем коллективно разобраться с этим”.