Неконтрольована гонка у сфері штучного інтелекту несе безпрецедентні ризики для людства, які можуть перевищити наслідки глобальної зміни клімату або ядерної війни. Про це заявив 27-річний дослідник Джейкоб Коксон, який оголосив про звільнення з компанії Anthropic через занепокоєння безпекою розробок.
Коксон протягом трьох років займався дослідженнями попереднього навчання моделей в OpenAI та Anthropic. За його словами, жодна з цих компаній не поводиться відповідально. Керівництво організацій прагне створити суперінтелект, здатний до самовдосконалення, ігноруючи при цьому питання безпеки та ризикуючи життями людей.
Інженер зазначив, що у приватних розмовах топменеджери та провідні науковці висловлюють побоювання, що штучний інтелект може призвести до знищення людства до кінця десятиліття. Агресивна конкуренція змушує лабораторії створювати потенційно небезпечні системи, щоб випередити суперників. Коксон закликав колег не мовчати та запропонував запровадити мораторій на вдосконалення моделей, щоб забезпечити час для впровадження міжнародного контролю та координації безпеки.
Цікаво, що генеральний директор Anthropic Даріо Амодеї також неодноразово висловлював подібні побоювання у своїх працях, через що отримав репутацію песиміста. Це демонструє суперечливу ситуацію в ІТ-індустрії, де керівники компаній побоюються технологій, розвиток яких самі ж прискорюють.
