НАЖИВО
Порятунок смартфона після контакту з водою: чого категорично не можна робити ЄС витратив на російські енергоресурси більше, ніж на допомогу Україні — дані Єврокомісії SpaceX наймає лобістів у Вашингтоні через майбутні розслідування Конгресу Геополітичний саміт у Китаї: експертна оцінка зустрічі лідерів США, КНР та РФ Удари по Кримському мосту: економічні наслідки для логістики та судноплавства ЄС спрямує 1 млрд євро на закупівлю озброєння для ЗСУ Технологічна перевага та Кримський міст: оцінка військових експертів Зеленський наголосив на легітимності ударів по Кримському мосту Російський удар знищив знімальний павільйон Fresh Production Group Енергетична інфраструктура Рівненщини постраждала від атаки: знеструмлено 50 населених пунктів Порятунок смартфона після контакту з водою: чого категорично не можна робити ЄС витратив на російські енергоресурси більше, ніж на допомогу Україні — дані Єврокомісії SpaceX наймає лобістів у Вашингтоні через майбутні розслідування Конгресу Геополітичний саміт у Китаї: експертна оцінка зустрічі лідерів США, КНР та РФ Удари по Кримському мосту: економічні наслідки для логістики та судноплавства ЄС спрямує 1 млрд євро на закупівлю озброєння для ЗСУ Технологічна перевага та Кримський міст: оцінка військових експертів Зеленський наголосив на легітимності ударів по Кримському мосту Російський удар знищив знімальний павільйон Fresh Production Group Енергетична інфраструктура Рівненщини постраждала від атаки: знеструмлено 50 населених пунктів

OpenAI залучає незалежних експертів для пошуку прихованих загроз в штучному інтелекті

🧠 AI-аналітика 1 хв читання 👁 7

Компанія OpenAI запускає пілотну програму з інтеграції незалежних дослідників безпеки для виявлення ризиків у своїх ІІ-моделях. Експерти перевірятимуть системи на здатність обходити правила та приховувати помилки.

OpenAI залучає незалежних експертів для пошуку прихованих загроз в штучному інтелекті🧠AI-аналітика

Фото: rbc.ua

Головне коротко

  • OpenAI залучає чотири незалежні компанії для тестування безпеки ІІ
  • Apollo Research перевірить моделі на спроби обійти механізми контролю
  • Експерти вказують на обмежений рівень автономії дослідників порівняно зі штатими працівниками

Сфера розробки штучного інтелекту стикається з новими викликами щодо безпеки та контролю над складними алгоритмами. Компанія OpenAI оголосила про старт пілотного проєкту, у межах якого до робочих процесів долучаться незалежні дослідницькі організації. Основна мета ініціативи полягає у ранньому виявленні потенційних загроз та прихованих ризиків у нових моделях, які раніше перевірялися переважно на фінальних етапах перед публічним релізом.

Новий підхід до перевірки алгоритмів

Дослідницький процес охоплюватиме співпрацю з чотирма профільними компаніями, кожна з яких виконуватиме специфічні завдання. Зокрема, фахівці з Apollo Research аналізуватимуть, чи здатні нейромережі підривати власні механізми контролю та імітувати безпечну поведінку під час тренувань. Компанія Goodfire зосередиться на внутрішній інтерпретації прийняття рішень, а METR протестує наявність непередбачуваних здібностей. Водночас Transluce оцінить якість післятренировочних перевірок та готовність систем до виходу у найближчі роки.

Попри розширення співпраці, експертне співтовариство висловлює певне застереження щодо рівня незалежності дослідників. Умови угод передбачають обмежений доступ до даних та комунікацій всередині компанії, що відрізняється від повного доступу співробітників. Такі заходи вживаються на тлі попередніх інцидентів із безпекою та витоками інформації, проте експерти називають поточну ініціативу важливим рухом до більшої прозорості ринку.

Джерело rbc.ua — rbc.ua/ukr/news/openai-shukae-zagrozi-vlasnomu-shi-modeli-179491277… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.