OpenAI створює нову команду для контролю «надрозумного» ШІ

OpenAI формує нову команду, щоб контролювати «надрозумні» системи штучного інтелекту.

Про це пише TechCrunch, – передає Бабель.

Головний науковий співробітник і співзасновник OpenAI Ілля Суцкевер і менеджер компанії Ян Лейке прогнозують, що штучний інтелект, який перевершить людський, може зʼявитися протягом десяти років. Вони наголошують, що в разі появи цей «надрозум» не обовʼязково буде доброзичливим, тож треба шукати способи контролювати й обмежувати його.

Для цього OpenAI створює нову команду Superalignment на чолі із Суцкевером і Лейке, яка матиме доступ до 20% наявних обчислювальних даних компанії. Новий відділ намагатиметься вирішити основні технічні проблеми керування «надрозумним» ШІ протягом наступних чотирьох років.

Суцкевер і Лейке описують свій майбутній інструмент як «автоматизований дослідник вирівнювання на рівні людини». Системи штучного інтелекту за допомогою зворотного звʼязку від людини мають навчитися допомагати в оцінці інших систем ШІ.

Гіпотеза OpenAI полягає в тому, що штучний інтелект може швидше та краще за людей контролювати «надрозумний» ШІ.

«Вони працюватимуть разом з людьми, щоб переконатися, що їхні спадкоємці будуть більш узгоджені з людьми... Дослідники-люди зосереджуватимуть все більше своїх зусиль на перегляді досліджень вирівнювання, проведених системами ШІ, замість того щоб проводити ці дослідження самостійно», – йдеться у блозі OpenAI.

Однак, за словами керівників компанії, використання штучного інтелекту для оцінки може збільшити невідповідності, упередження або вразливі місця в наступних поколіннях ШІ. І може виявитися, що найскладніші проблеми вирівнювання взагалі не повʼязані з технікою. Але Суцкевер і Лейке вважають, що варто спробувати.

ЧИТАЙТЕ ТАКОЖ: 

• Розробник ChatGPT відкриє свій перший офіс за кордоном
• Meta запустила платну підписку на віртуальну реальність
• У США юридичну компанію оштрафували на $5 000 через використання ChatGPT