Знаменитый учёный высказался про опасность ИИ для человечества
Лауреат Нобелевской премии по физике выступил с мрачным предупреждением, что развитие искусственного интеллекта в ближайшее время уничтожит мир
Британский учёный Джеффри Хинтон известен благодаря своему вкладу в развитие глубокого обучения. В 2024 году он получил Нобелевскую премию по физике с формулировкой «за фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей».
В 2023-м он с другими учёными выступил против бесконтрольного распространения ИИ из-за угрозы «уничтожения человечества». Хинтон обеспокоен способностью интеллектуальных систем ИИ «создавать подцели», которые не отвечают интересам их программистов. По его словам, они могут стремиться к власти потому, что эти подцели полезны для достижения более поздних целей.
«Я лично думаю, что значение P(doom) выше 50%, экзистенциального риска. Но я этого не говорю, потому что другие люди думают, что он меньше», — заявил Хинтон на недавней встрече со студентами.
P(doom) — это термин в области безопасности ИИ, который обозначает вероятность катастрофического исхода в результате применения искусственного интеллекта. Термин появился как шутка и получил широкую известность после выхода GPT-4, когда известные учёные начали предупреждать о рисках, связанных с ИИ.
В ходе прошлогоднего опроса исследователей попросили оценить вероятность того, что будущие достижения в области ИИ могут привести к вымиранию человечества в течение следующих 100 лет. Средний ответ составил 14,4%.
Британский учёный Джеффри Хинтон известен благодаря своему вкладу в развитие глубокого обучения. В 2024 году он получил Нобелевскую премию по физике с формулировкой «за фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей».
В 2023-м он с другими учёными выступил против бесконтрольного распространения ИИ из-за угрозы «уничтожения человечества». Хинтон обеспокоен способностью интеллектуальных систем ИИ «создавать подцели», которые не отвечают интересам их программистов. По его словам, они могут стремиться к власти потому, что эти подцели полезны для достижения более поздних целей.
«Я лично думаю, что значение P(doom) выше 50%, экзистенциального риска. Но я этого не говорю, потому что другие люди думают, что он меньше», — заявил Хинтон на недавней встрече со студентами.
P(doom) — это термин в области безопасности ИИ, который обозначает вероятность катастрофического исхода в результате применения искусственного интеллекта. Термин появился как шутка и получил широкую известность после выхода GPT-4, когда известные учёные начали предупреждать о рисках, связанных с ИИ.
В ходе прошлогоднего опроса исследователей попросили оценить вероятность того, что будущие достижения в области ИИ могут привести к вымиранию человечества в течение следующих 100 лет. Средний ответ составил 14,4%.
