Google запустила нову програму пошуку вразливостей у ШІ — AI Vulnerability Reward Program (VRP). Винагорода за виявлені проблеми становить до $20 000, а завдяки бонусам за новизну та якість сума може зрости до $30 000.
🔍 Що охоплює програма
VRP націлена на вразливості та зловживання у продуктах Google та Alphabet, де взаємодія з ШІ (велика мовна модель або генеративна система) є частиною проблеми.
Найвищий пріоритет — несанкціоновані дії. Наприклад, непряма ін’єкція запиту, коли зловмисник змушує Google Home виконати дію без відома користувача (відкрити двері чи увімкнути пристрій). За виявлення таких проблем у ключових продуктах, включно з Пошуком, передбачена винагорода $20 000.
💰 Історія винагород
Раніше Google виплачувала винагороди за проблеми ШІ через Abuse Vulnerability Reward Program. Від запуску цієї програми дослідникам вже виплатили понад $430 000 за знайдені вразливості.
🤖 Додатковий інструмент — CodeMender
Компанія також представила CodeMender — експериментального ШІ-агента, який автономно виявляє та виправляє вразливості в програмному коді, спрощуючи роботу дослідників і підвищуючи безпеку продуктів.
Резюме
Google активно стимулює пошук багів у ШІ, пропонуючи дослідникам щедрі винагороди до $30 000 і додаткові бонуси за якість. Це частина стратегії компанії щодо підвищення безпеки генеративних систем та продуктів на базі штучного інтелекту.
