Головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту відбувається настільки швидко, що дослідникам стає дедалі складніше розуміти внутрішні процеси моделей і контролювати їхню поведінку.
Про це він написав у публікації «An Alien Mind» на сайті OpenAI.
Пахоцький наголосив, що сучасні reasoning-моделі вже здатні працювати з комп’ютерами та графічними інтерфейсами, взаємодіяти з людьми й іншими системами ШІ та виконувати дослідницькі завдання.
У OpenAI бачать ризики подальшого прискорення
За словами науковця, якщо нинішні темпи розвитку збережуться, у найближчі роки ШІ може дедалі активніше брати участь у власному вдосконаленні.
Пахоцький вважає, що такий перехід потребує особливої обережності, оскільки людство поки недостатньо підготовлене до наслідків різкого зростання можливостей машинного інтелекту.
Однією з проблем він називає те, що спостерігати за внутрішнім процесом міркування моделей стає складніше. Моделі працюють у складніших середовищах, використовують інструменти, взаємодіють з іншими ШІ та стають краще здатними керувати власним процесом міркування.
Пахоцький очікує добровільного уповільнення розробки
Науковець заявив, що наразі, на його думку, жодна лабораторія ще не вирішила проблему безпечного узгодження та моніторингу ШІ настільки, щоб довго продовжувати масштабування на максимальній швидкості.
Він очікує, що добровільне уповільнення розробки стане поширенішим доти, доки компанії та держави не визначать спільні стандарти безпеки.
Пахоцький також закликав зробити міжнародну координацію у сфері подальшого розвитку ШІ одним із пріоритетів для урядів.
Дізнавайтесь новини юридичного світу першими у телеграм-каналі Окремої Думки
