Фахівці компанії Apple описали новий спосіб роботи інструментів генеративного штучного інтелекту (ІІ) на смартфонах. Дослідження опубліковано на сервері препринтів arXiv.
У матеріалі команда вчених запропонувала спосіб, коли генеративний штучний інтелект можна буде використовувати навіть на старих пристроях. У компанії заявили, що для обробки операцій можна застосовувати не оперативну, а постійну пам’ять девайсу.
У процесі роботи модель ІІ може повторно використовувати вже оброблені дані. Також чат-бот зможе оперативно отримувати інформацію із вбудованої пам’яті iPhone, що пришвидшить роботу сервісу.
За оцінкою фахівців, новий метод дозволить знизити навантаження на процесор у 4-5 разів, графічний прискорювач – 20-25 разів. Також при цьому дані будуть оброблятися не на серверах, як у випадку популярного чат-бота ChatGPT, а безпосередньо на смартфоні.
“Цей прорив особливо важливий для впровадження передових програм LLM у середовищах з обмеженими ресурсами, тим самим розширюючи їх застосовність і доступність”, – зазначили автори дослідження.
У листопаді інсайдери розповіли, що майбутні смартфони Samsung матимуть вбудовану підтримку штучного інтелекту. За інформацією джерел, власники гаджетів зможуть отримувати доступ до різних сервісів без підключення до Інтернету.
Спасибо!
Теперь редакторы в курсе.