Кошелек или принципы: о чем OpenAI договорилась с Пентагоном

По данным The Guardian, OpenAI заключила соглашение с Пентагоном о предоставлении ИИ засекреченным военным сетям США. Это произошло это спустя несколько часов после того, как Дональд Трамп распорядился прекратить использование услуг Anthropic — одного из главных конкурентов компании. Однако генеральный директор OpenAI Сэм Альтман заявил, что ИИ не будет применяться для автономных систем оружия летального действия и для массовой слежки.

Сотрудничество между Anthropic — технологической компанией, разработавшей Claude, — и администрацией Трампа зашло в тупик. Причина — требование Anthropic предоставить гарантии, что ее технологии не будут применяться ни для камер массового слежения, ни для автономных систем вооружения. В свою очередь, Пентагон требовал, чтобы Anthropic ослабила этические ограничения на свои ИИ-системы, пригрозив в противном случае серьезными последствиями. Трамп публично атаковал компанию, обвинив ее в попытке диктовать условия военному ведомству в ущерб государственным интересам.

В то же время, объявляя о сделке, Альтман подчеркнул, что соглашение с правительством прямо исключает подобное использование технологий. По его словам, запрет на внутреннюю массовую слежку и сохранение ответственности человека за применение силы — в том числе в автономных системах вооружения — являются двумя ключевыми принципами безопасности компании, которые Пентагон разделяет и которые нашли отражение как в законодательстве, так и в тексте соглашения.

Кроме того, Альтман выразил надежду на то, что Пентагон предложит аналогичные условия всем ИИ-компаниям как способ перейти от судебных разбирательств и давления со стороны властей к договоренностям. Если сделка OpenAI действительно запрещает использование ее систем в неэтичных целях, компании удалось добиться именно тех гарантий, которые не смогла получить Anthropic.

Пока неизвестно, как сотрудники OpenAI отреагируют на сделку с правительством. В своем противостоянии с администрацией Трампа Anthropic заручилась поддержкой своих самых непримиримых конкурентов. Почти 500 сотрудников OpenAI и Google подписали открытое письмо, заявив о своей солидарности и предупредив, что Пентагон пытается поочередно надавить на каждую из компаний, рассчитывая, что та или иная из них в итоге уступит.

В пятницу вечером Альтман направил сотрудникам OpenAI внутреннее письмо, стремясь их успокоить. Он подчеркнул, что компания намерена добиться от Пентагона соглашения, которое позволит применять ее модели в засекреченных средах, не нарушая при этом собственных принципов.

Также OpenAI сообщила о закрытии крупнейшего в своей истории раунда финансирования на сумму $110 млрд, что подразумевает оценку компании в $840 млрд.