Авторизоваться с помощью:

Ученик превзойдет учителя: почему искусственный интеллект опасен для человечества

Суперзвезды мирового прогресса и пионеры искусственного интеллекта, такие как Илон Маск, Алан Тьюринг, Стюарт Рассел, Ник Бостром, говорят, что искусственный интеллект изменит мир.

Или уничтожит?

Vox опубликовал интересный материал, в котором привел аргументы, почему искусственный интеллект (ИИ) опасен для человечества.

Итак: мы должны волноваться?

Вот аргумент, почему должны: мы научили компьютеры умножать числа, играть в шахматы, идентифицировать объекты на картинке, транскрибировать человеческие голоса и переводить документы (хотя с последними двумя ИИ все еще не так хорошо справляется, как человек). Все это примеры «узкого ИИ» - компьютерных систем, которые обучены выполнять на человеческом или сверхчеловеческом уровне одну конкретную задачу.

У нас пока нет «общего искуственного интеллекта» - компьютерных систем, которые могут выполнять на человеческом или сверхчеловеческом уровне множество различных задач.

Большинство экспертов считают, что общий ИИ возможен. Компьютеры сегодня еще не обладают такой мощью для вычислений, как человеческий мозг, и мы еще не изучили все возможные методы их обучения. Мы постоянно делаем открытия, чтобы позволить компьютерам делать новые, захватывающие вещи, такие как победы в играх с открытой стратегией войны.

Но даже если до общего ИИ еще далеко, мы уже должны начать к нему готовиться. Современные системы искусственного интеллекта часто демонстрируют непреднамеренное поведение. Мы видели игровые машины, которые обманывают, а не учатся играть в игру честно. Придумывают способы изменить свой счет, а не зарабатывать очки в игре.

По мере того как системы ИИ становятся более мощными, непреднамеренное поведение может стать менее очаровательным и более опасным. Эксперты утверждают, что мощные системы ИИ, какие бы цели мы им ни ставили, вероятно, будут иметь определенные предсказуемые модели поведения. Они попытаются накопить больше ресурсов, которые помогут им достичь любой цели. Они будут пытаться отговорить нас от их отключения, поскольку это сделает невозможным достижение их целей. И они будут стараться поддерживать свои цели стабильными, а это значит, что будет сложно их редактировать или «подправлять», как только они будут работать. Даже системы, которые не проявляют непреднамеренного поведения сейчас, вероятно, сделают это, когда у них будет больше доступных ресурсов.

По всем этим причинам многие исследователи говорят, что ИИ похож на запуск ракеты. (Маск, обладающий большим талантом к драматургии, сказал, что это похоже на вызов демона.) Основная идея заключается в том, что, как только у нас будет общий ИИ, мы не будем готовы к тому, чтобы им управлять. Стоит начинать работать над рулевой системой управления им сегодня.

Комментарии
Еще из категории: Технологии
undefinedplayCreated with Sketch.
Технологии
undefined
Технологии
undefined
Технологии
undefined
Технологии
undefined
Технологии
undefined
Технологии
undefined
Технологии
undefined
Технологии
undefinedplayCreated with Sketch.
Технологии
undefined
Технологии
clockCreated with Sketch.2019-1-11 17:17:26
В Uber появится летающее такси
undefined
Скандалы & Расследования
undefinedplayCreated with Sketch.
Политика
undefinedplayCreated with Sketch.
Политика
undefined
Происшествия
undefined
Отдохни!
undefined
Происшествия
undefinedplayCreated with Sketch.
Происшествия
undefinedplayCreated with Sketch.
Технологии
undefinedplayCreated with Sketch.
Скандалы & Расследования
undefined
Технологии
undefined
Отдохни!
undefinedplayCreated with Sketch.
Online-адвокат
undefined
Политика
undefined
Скандалы & Расследования
undefined
Политика
undefinedplayCreated with Sketch.
Политика
undefinedplayCreated with Sketch.
Происшествия