Google платитиме до $30 000 за виявлення багів у штучному інтелекті

Google запустила нову програму пошуку вразливостей у ШІ — AI Vulnerability Reward Program (VRP). Винагорода за виявлені проблеми становить до $20 000, а завдяки бонусам за новизну та якість сума може зрости до $30 000.

🔍 Що охоплює програма

VRP націлена на вразливості та зловживання у продуктах Google та Alphabet, де взаємодія з ШІ (велика мовна модель або генеративна система) є частиною проблеми.

Найвищий пріоритет — несанкціоновані дії. Наприклад, непряма ін’єкція запиту, коли зловмисник змушує Google Home виконати дію без відома користувача (відкрити двері чи увімкнути пристрій). За виявлення таких проблем у ключових продуктах, включно з Пошуком, передбачена винагорода $20 000.

💰 Історія винагород

Раніше Google виплачувала винагороди за проблеми ШІ через Abuse Vulnerability Reward Program. Від запуску цієї програми дослідникам вже виплатили понад $430 000 за знайдені вразливості.

• Читайте також: Alphabet більше не обіцяє не використовувати ШІ у військових цілях

🤖 Додатковий інструмент — CodeMender

Компанія також представила CodeMender — експериментального ШІ-агента, який автономно виявляє та виправляє вразливості в програмному коді, спрощуючи роботу дослідників і підвищуючи безпеку продуктів.

Резюме

Google активно стимулює пошук багів у ШІ, пропонуючи дослідникам щедрі винагороди до $30 000 і додаткові бонуси за якість. Це частина стратегії компанії щодо підвищення безпеки генеративних систем та продуктів на базі штучного інтелекту.

Читайте також

Meta хоче придбати стартап PlayAI зі спеціалізацією на голосовому ШІ

Google закрила програму з винагородами за пошук уразливостей на Android

Acer представила Swift 16 Air: ультралегкий ноутбук із Ryzen AI, що випередив MacBook Air

США надали Nvidia ліцензію на експорт чипів H20 до Китаю