Перед рішенням звільнити гендиректора OpenAI Сема Альтмана рада директорів отримала від співробітників листа, в якому йшлося про «потужне відкриття», яке, за їхніми словами, може загрожувати людству. Про це з посиланням на джерела усередині компанії пише Reuters.
За їхніми словами, йдеться про прорив у створенні загального штучного інтелекту (AGI), який може розуміти навколишнє середовище як людина та виконувати будь-які інтелектуальні завдання. Відповідно, навчаючись, AGI може перевершити людину у вирішенні більшості таких завдань.
Агентству Reuters не вдалося переглянути копію листа. OpenAI та співробітники, які написали листа, не відповіли на прохання про коментарі.
Читайте також: Третина армії буде роботизована, а штучний інтелект змінить хід воєн – генерал Марк Міллі
Однак один із співрозмовників агентства сказав, що у внутрішньому повідомленні керівництво визнало наявність листа та роботу над проєктом Q* (Q-Star).
За словами іншого співрозмовника, Q* здатний вирішувати математичні завдання, хоча поки що його здібності перебувають на рівні учнів початкових класів. Однак це вселяє в дослідників «великий оптимізм щодо майбутніх успіхів проєкту».
Наразі інструменти для обчислень використовують алгоритми та можуть виконувати обмежену кількість операцій. Освоєння математики передбачає, що ШІ матиме здібності до міркування, тобто зможе узагальнювати, вчитися і розуміти. Це може допомогти у науковій діяльності.
Автори листа не уточнили, які саме загрози несе Q*. Вчені вже давно сперечаються про небезпеку, яку становлять високоінтелектуальні машини: наприклад, якщо вони вирішать, що знищення людства відповідає їхнім інтересам.
Лист став лише одним із приводів для звільнення Альтмана, який рада директорів мотивувала тим, що він був з ними не завжди відвертим, пише Reuters. Також у оголошенні про звільнення гендиректора була така підстава:
«OpenAI створений для досягнення нашої місії: гарантувати, що загальний штучний інтелект принесе користь всьому людству. Рада, як і раніше, повністю віддана виконанню цієї місії»
Через кілька днів після погрози звільнитися від 700 з 770 співробітників OpenAI з Альтманом вдалося «досягнути принципової угоди» про його повернення на посаду гендиректора.
Форум