Коннор Лихи

Коннор Лихи — немецко-американский ^{[1] исследователь} искусственного интеллекта и предприниматель, известный как соучредитель EleutherAI ^{[2] [3]} и генеральный директор компании Conjecture, занимающейся исследованиями безопасности ИИ . ^{[4] [5] [6]} Он предупреждал об экзистенциальном риске, который представляет собой искусственный интеллект в целом , и призывал к регулированию, такому как «мораторий на пограничные запуски ИИ», реализуемому посредством ограничения вычислений. ^[7]

В 2019 году Лихи провел обратную разработку GPT-2 в своей спальне, а затем стал соучредителем EleutherAI , чтобы попытаться воспроизвести GPT-3 . ^[2]

Лихи скептически относится к обучению с подкреплением на основе обратной связи с человеком как к решению проблемы выравнивания . «Эти системы, становясь более мощными, не становятся менее чуждыми. Если уж на то пошло, мы надеваем на них милую маленькую маску с улыбающимся лицом. Если не заходить слишком далеко, смайлик останется. Но затем вы даете ему [неожиданную] подсказку, и внезапно вы видите это огромное изнаночное безумие, странные мыслительные процессы и явно нечеловеческое понимание». ^[8]

Он был одним из подписавших открытое письмо Института будущего жизни 2023 года , призывающее «все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4». ^{[9] [10]}

В ноябре 2023 года Лихи пригласили выступить на первом Саммите по безопасности ИИ . Он беспокоился, что саммит не сможет справиться с рисками от «богоподобного ИИ», вытекающими из проблемы согласования ИИ, утверждая, что «если вы создаете системы, которые более способны, чем люди, к манипуляциям, бизнесу, политике, науке и всему остальному, и мы не контролируем их, то будущее принадлежит им, а не нам». Он стал соучредителем группы кампании ControlAI, выступающей за то, чтобы правительства приостановили разработку общего искусственного интеллекта . ^[4] Лихи сравнил регулирование искусственного интеллекта с регулированием изменения климата , утверждая, что «нефтяные компании не обязаны решать проблему изменения климата», и что правительства должны вмешаться, чтобы решить обе проблемы. ^[3]

• Гийом Вердон