Microsoft заплатит до $15 000 любому. Что для этого нужно?
10/16/2023
Компания Microsoft запускает программу Bing AI bug bounty, предлагая вознаграждения за обнаружение уязвимостей в своих продуктах, основанных на искусственном интеллекте. Поставлена задача повысить безопасность генеративного чат-бота Bing и его интеграцию в другие приложения.
Компания Microsoft запускает программу Bing AI bug bounty, предлагая вознаграждения за обнаружение уязвимостей в своих продуктах, основанных на искусственном интеллекте. Поставлена задача повысить безопасность генеративного чат-бота Bing и его интеграцию в другие приложения.
Программа предоставляет щедрые премии от двух до 15 тысяч долларов США тем, кто обнаружит в ИИ-продуктах Microsoft баги, оцененные как «важные» или «критические». Примеры таких уязвимостей включают возможность раскрытия конфиденциальных данных, обход ограничений в поведении бота Bing и доступ к истории чата.
В программе могут участвовать исследователи в возрасте от 14 лет (при условии получения согласия от их законного представителя). Наибольшие награды будут предоставляться за выявление уязвимостей, связанных с выводами, моделями и раскрытием информации на основе выводов. Эти баги имеют критическое значение для безопасности продуктов Microsoft.
Исследователи могут проверять на наличие уязвимостей любые интеграции Bing, включая браузер Microsoft Edge, веб-сайт bing.com, меню «Пуск» Microsoft и др. Это означает, что любой, кто обнаружит слабое место, может поучаствовать в программе и получить награду. При этом участники должны убедиться, что уязвимости не были обнаружены ранее и могут быть воспроизведены в последней версии продукта.
Это уже не первая подобная инициатива Microsoft: например, в 2020 году корпорация запускала программу вознаграждения за поиск уязвимостей игровой консоли Xbox. Компания OpenAI также предлагает деньги за обнаружение ошибок – до $20 000 за «исключительные» уязвимости. Таким образом технологические гиганты подчеркивают важность безопасности и поддержки сообщества исследователей в сфере искусственного интеллекта.