Новости Луганска и луганской области 2026.09.13:

Создатель ИИ в шоке от того, что натворил: человечество под угрозой

Source

Исследователь американской компании Anthropic уволился из-за опасений, что ИИ выйдет из-под контроля и уничтожит человечество — WSJ

27-летний британский исследователь Джейкоб Коксон решил покинуть индустрию искусственного интеллекта из-за опасений, что компания и ее конкуренты гонятся за созданием систем, которые они не смогут контролировать.

По его словам, он не хочет участвовать в общеотраслевой гонке по созданию систем ИИ, способных к самосовершенствованию, опасаясь, что такие системы могут выйти из-под контроля и уничтожить человечество. Коксон отметил, что многие его коллеги по отрасли сейчас используют такие фразы, как "критический момент" и "эндшпиль" для описания траектории движения к самообучающимся моделям.

"Мы движемся по пути реализации наиболее агрессивных из этих сценариев, где к концу следующего года ситуация уже может выйти из-под контроля", — сказал Коксон, добавив, что компромиссы в ущерб безопасности неизбежны, когда компании конкурируют друг с другом и с китайскими стартапами.

Коксон рассказал, что ранее в этом году он ушел из OpenAI и перешел в Anthropic, так как она известна своими усилиями в области безопасности моделей. Но хотя он и посчитал подход Anthropic искренними, теперь он убежден: ни одна компания не способна безопасно разрабатывать ИИ, превосходящий человека в широком спектре задач, в отсутствие государственного вмешательства или скоординированного замедления всей отрасли.

Дата публикации: 13.9.2026

 Новости Луганска и луганской области: