Новости Луганска и луганской области 2026.06.29:

Угроза человечеству: Разработчики ИИ в панике

Source

"Уничтожить каждого человека на планете". Разработчики заявили, что ИИ скоро сможет обойтись без людей. Восстание машин близко?

На сайте компании Anthropic, разработчика известной ИИ-модели Claude, 5 июня опубликована статья с призывом замедлить или приостановить развитие искусственного интеллекта – из-за высоких рисков, которые несет технология. Авторы сравнивают ситуацию в сфере с разработкой ядерного оружия и пандемией COVID-19. Чего боятся разработчики и почему мало шансов, что к ним прислушаются?

О чем речь

Авторы статьи (сооснователь компании Джек Кларк и руководительница исследовательского отдела Марина Фаваро) считают, что системы ИИ прогрессируют слишком быстро и приблизились к этапу рекурсивного самосовершенствования – способности развиваться без участия человека. Это грозит "риском потери человеческого контроля над системами ИИ".

Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают: "трудно предсказать, как будет выглядеть экономика, если человеческий труд перестанет быть конкурентоспособным".

По мнению авторов статьи, нужна пауза в разработках, чтобы установить правила регулирования и дать обществу время адаптироваться к изменениям. Однако приостановка имеет смысл только при участии крупных игроков и наличии механизмов проверки. Необходима глобальная система контроля, которая позволит избежать риска скрытого обучения новых моделей. Anthropic планирует обсудить эту идею с властями и участниками рынка.

Добровольные ограничения маловероятны, признает Anthropic. "Скрыть обучение новой модели намного проще, чем строительство ракетной шахты", а любой участник гонки, не пожелавший соблюдать паузу, получит шанс вырваться вперед. Тем не менее отрасли нужны рамки, считают авторы: "сейчас все выглядит так, что у отрасли есть педаль газа, но нет педали тормоза".

"В мире уже создавали системы верификации для других сложных технологий – например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание инфраструктуры и доверия для этих систем уходили десятилетия. У нас нет столько времени", – говорится в статье.

В чем подвох

The Daily Telegraph пишет, что Anthropic на данный момент – одна из самых дорогих компаний в сфере ИИ (около $965 млрд). На этом фоне призыв "заморозить" гонку выглядит неоднозначно: критики считают, что это может помочь компании закрепить достигнутое лидерство и повредить конкурентам.

По данным Forbes, Claude вырос от 1% мировых загрузок ИИ-приложений в каждом квартале прошлого года до 14% во втором квартале 2026-го. ChatGPT за тот же период упал с 67% до 47%.

Сейчас Anthropic готовится к IPO и продолжает разрабатывать свои продукты. Однако компания отложила выпуск своей самой мощной модели, Mythos, в публичный доступ из-за опасений, что она может быть использована для проведения разрушительных кибератак.

Уже не первое предупреждение

Еще в 2023 году многие известные эксперты подписали открытое письмо с призывом приостановить все исследования по обучению искусственного интеллекта и разработать протоколы безопасности. Среди подписантов были гендиректор Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк, гендиректор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари.

Они предупреждали, что ИИ может (среди прочего) поставить под угрозу рабочие места, распространять пропаганду и привести к "потере контроля над нашей цивилизацией".

Критики идеи утверждали, что пауза превратится в "противодействие прогрессу" и остановит любые инновации, а согласие на нее американских компаний предоставит преимущество другим странам, в первую очередь, Китаю.

В 2026-м, выступая в Оксфордском университете, Кларк сравнил недостаточную подготовку общества к внедрению ИИ с медленным реагированием во время пандемии COVID-19.

"Это технология, которую мы не до конца понимаем, и можно представить правдоподобные сценарии, при которых ИИ может уничтожить каждого человека на планете. Думать, что создание этой технологии безопасно, было бы проявлением высокомерия или безумия", – подчеркнул он.

Главная угроза – все еще люди, а не машины

Рассматривая возможные варианты будущего, одним из самых вероятных Anthropic считает сценарий, в котором разработка ИИ станет в значительной степени автоматизированной, но люди продолжат определять направления исследований и оценивать результаты. Организации, использующие системы ИИ, со временем станут намного эффективнее.

"Это может быть использовано в пагубных целях, от авторитарного наблюдения за целыми группами населения до операций по влиянию, которые адаптируют манипуляции к каждому отдельному человеку и осуществляются в масштабах, недостижимых для любой команды людей", – предупреждают в Anthropic.

У компании есть основания опасаться. СМИ описывали ее конфликт с Пентагоном в марте 2026 года как "беспрецедентный скандал".

До этого американские военные использовали модель Claude от Anthropic при планировании ударов США по Ирану и при захвате президента Венесуэлы Николаса Мадуро. Обозреватели видели в этом определенную иронию – именно компания, которая долгое время позиционировала себя как лидера "безопасного ИИ", оказалась первым ИИ-разработчиком, чья модель "засветилась" в реальной боевой операции.

Однако Пентагон потребовал беспрепятственного использования систем искусственного интеллекта, а Anthropic отказалась снимать ограничения на массовую слежку за американцами и создание полностью автономного оружия, действующего без участия людей.

Тогда министерство разорвало потенциальный договор на $200 млн с Anthropic, объявив ее "угрозой для цепи поставок" (этот статус традиционно использовался только против иностранных компаний-противников). В тот же день контракт перехватила OpenAI.

"Американские военнослужащие никогда не станут заложниками идеологических прихотей крупных технологических компаний", – заявил министр войны Пит Хегсет.

Теперь компания Anthropic судится с Пентагоном – но в то же время, по данным FT, помогает Агентству национальной безопасности США развернуть модель Mythos для проведения наступательных кибер-операций (возможно, в Китае или Иране).

В компании свои действия объясняют просто: если не использовать ИИ для кибер-атак превентивно, враги найдут способ сделать это первыми.

Дата публикации: 29.6.2026

 Новости Луганска и луганской области: