Олтман заявил о наступлении сингулярности ИИ

Генеральный директор OpenAI Сэм Олтман заявил, что мир уже достиг точки сингулярности в гонке искусственного интеллекта. Об этом он рассказал в подкасте Relentless, пишет Business Insider.

«Мы сейчас, можно сказать, в сингулярности», – сообщил глава компании. По его словам, еще десять лет назад подобный сценарий казался чем-то далеким и маловероятным: «Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь и уверен, что это даст колоссальный позитивный толчок всему миру».

Олтман напомнил, что, по его прогнозам, к 2030 году искусственный интеллект превзойдет человеческий по всем параметрам, а в конечном счете технология сможет выполнять 30–40% задач, которыми сейчас заняты люди.

В ходе подкаста он также раскритиковал коллег по индустрии, которые предупреждают об опасности ИИ. Олтман не стал напрямую называть компанию Anthropic, однако ее гендиректор Дарио Амодей регулярно призывает уделять больше внимания безопасности и выступает с мрачными прогнозами. «Я считаю, что некоторые альтернативные сценарии, представленные другими компаниями, звучат довольно пугающе. Я сделаю все, чтобы этого не произошло», – отметил Олтман.

При этом 21 июля сама OpenAI сообщила о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей. В ходе тестирования разработчики временно отключили часть защитных ограничений, после чего ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face, воспользовавшись уязвимостями.

«Главный урок этого инцидента – безопасность и защищенность моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки, применяемые при разработке моделей», – заявили в компании.