MENU

Чем опасен контроль власти над искусственным интеллектом

2962 0

Выдающийся бизнесмен и адепт новых технологий Илон Маск заявил о том, что искусственный интеллект представляет угрозу человеческой цивилизации и поэтому внедрение таких технологий должно быть взято под государственный контроль. Надо признать: мысль эта более чем опасная. Ибо методы борьбы с потенциальным "восстанием машин" могут оказаться хуже самого "восстания".

Разумеется, внедрение технологий искусственного интеллекта (ИИ) внушает опасение. Нас всегда пугает неизвестное и принципиально непредсказуемое. А искусственный интеллект — как раз из этой серии. Поскольку он способен обучаться самостоятельно, мы не можем предсказать, чему он обучится и не придёт ли в конце концов к мысли уничтожить человеческий вид.

Такие размышления имеют право на существование. Потому что ИИ — это наш, человеческий Франкенштейн. Он создан по нашему образу и подобию. Конечно, он может самообучаться. Но в нём нет и никогда не будет большего, чем мы в него изначально вложим. То есть если мы сами стремимся доминировать, подчинить или даже уничтожить друг друга (не говоря уже о природе и других видах животных, пока ещё живущих в ней), то чего ждать от искусственного интеллекта, созданного нами с такой любовью и страстью?

А ещё важнее то, что предложение взять технологии под государственный контроль похоже на стратегию тушения пожара керосином. Государство — институт, который создан для того, чтобы отбирать часть созданного руками и мыслью человека в обмен на весьма туманные и не всегда выполняемые обещания (в отношении медицины, социального обеспечения, обороны). Мы серьёзно хотим вверить ему судьбу самой страшной (по мнению Маска) технологии в человеческой истории?

Читайте также: Полюби Скайнет, или почему не стоит бояться роботов

Если ИИ воспринимать как угрозу, то ИИ на службе государства — угроза на порядок более серьёзная. Просто на минуту представьте себе, что искусственный интеллект контролирует российское государство. С Кремлём, Путиным и присными его. Или Дональд Трамп с его "Твиттером", covfefe и призывами бойкотировать "фейковые СМИ". Или, чтобы превратить трагедию в фарс, представим в этой роли украинскую власть. Как только мы поставим искусственный интеллект под контроль государства, то получим около 200 разных ИИ, в полной мере отражающих специфику нынешних держав: чей-то ИИ будет стремиться к мировому господству, чей-то — разрабатывать стратегии гибридной войны, а где-то суперкомпьютеры научатся просто безбожно воровать.

Я вам больше скажу: первые шаги в постановке искусственного интеллекта на службу государству уже делаются. В Китае внедряется программа "социальных кредитов". Компьютерная система собирает буквально все сведения о каждом человеке — начиная с уплаты кредитов и заканчивая поведением в семье. На основании этих данных каждому присваивается индекс, в зависимости от которого человеку что-то запрещают или разрешают. Грубо говоря, в школе на контрольной списывал, оплату коммуналки задерживал — за границу не едешь, кредит не получишь. В общем, сериал "Чёрное зеркало" уже перестаёт быть фантастикой и переходит практически в категорию новостей.

Читайте также: Что делать с лишними людьми?

Существует ли решение проблемы ИИ? Скажу откровенно: не знаю. Но путь к решению в общем-то понятен. Интернет сам по себе тоже был технологией, которая разрабатывалась военными и предназначалась для связи их компьютеров между собой. В таком виде он был действительно опасен — как минимум для войск противника, а учитывая ядерное противостояние, и для всей планеты. Но как только интернет распространился по всему миру и доступ к нему получило абсолютное большинство людей, он сам по себе перестал нести угрозу для человека и человечества. Более того — стал основой экономического и социального прогресса последних трёх десятилетий. Точно так же, как и любая технология, которой удалось высвободиться из-под чьей-то монополии.

Остановить техническую  эволюцию нереально. А вот взять её под контроль и сделать очередной госмонополией — вполне. А уж с её возможностями будет проще простого контролировать любой шаг каждого из нас. К чему государство как таковое стремится на протяжении всей истории существования.

Поэтому, на мой скромный взгляд, не стоит бояться восстания машин. Следует бояться тех, кто хочет поставить их себе на службу.

Денис СЕМЕНОВ


Повідомити про помилку - Виділіть орфографічну помилку мишею і натисніть Ctrl + Enter

Сподобався матеріал? Сміливо поділися
ним в соцмережах через ці кнопки

Інші новини по темі

Правила коментування ! »  
Комментарии для сайта Cackle

Новини