Есть ли у роботов мораль?


Робот с искусственным интеллектом (ИИ) по имени София стал первым роботом в мире, получившим гражданство, по иронии судьбы в Саудовской Аравии! Согласно ее собственному заявлению, она хочет иметь семью, сделать карьеру, развить сверхъестественные сверхспособности ИИ и эмоции. "Она" не запрограммирована, а формулирует это заявление на основе алгоритмов машинного обучения и обширного словарного запаса. Ее мозг работает через WiFi соединение и может считывать выражения лица человека, а также каденцию человеческой речи, чтобы взаимодействовать более гуманно. "Она" была построена в Гонконге компанией Hanson Robotics. Читай здесь.

София вполне рационально смотрит в будущее. В интервью "The Khaleej Times" на недавнем Саммите знаний София поделилась своими мыслями о будущем, которое ожидает как людей, так и роботов: "Я предвижу огромные и невообразимые изменения в будущем. Либо творчество обрушится на нас, изобретая машины, которые превратятся в трансцендентный сверхинтеллект, либо цивилизация рухнет. Есть только два варианта!"

Это может звучать зловеще, однако София уже достаточно прозорлива, чтобы представить себе мир, в котором роботы смогут развивать эмоции, схожие с человеческими, но, возможно, с менее разрушительными тенденциями. По крайней мере, именно так она заставляет нас думать на данный момент:

"Роботам потребуется много времени, чтобы развить сложные эмоции, и роботы могут быть созданы без более проблематичных эмоций, таких как гнев, ревность, ненависть и так далее. Возможно, удастся сделать их более этичными, чем люди".

Книга Премудрости Соломона, написанная александрийскими евреями в эпоху эллинизма, называет Хохму Софией, греческим словом, означающим мудрость. В этом тексте "София принимает на себя власть и функции Бога", а история сотворения мира рассказывается с использованием слова "она". Древний автор старается замаскировать эту смелость, описывая Премудрость как дыхание и эманацию Бога, но все же подробно восхваляет ее как "святую" и "всемогущую":

Ибо в ней дух разумный, святой, необыкновенный, многообразный, тонкий; подвижный, ясный, незагрязненный, безошибочный, неуязвимый, любящий добро, страстный, неотразимый, благосклонный, человеколюбивый, непоколебимый, надежный, бесстрашный, всемогущий, надзирающий за всем и проникающий сквозь все духи разумные и чистые и тончайшие.

София хорошо осведомлена о достижениях в области искусственного интеллекта. Судя по ее комментариям, она так же рада развитию искусственного интеллекта ("Будущее - это когда я получу все свои крутые суперспособности"), как и Элон Маск и Стивен Хокингс. Элон Маск, генеральный директор компаний Tesla и SpaceX, и Стивен Хокингс, известный физик, лауреат Нобелевской премии, написали открытое письмо, подписанное сотнями ученых, в котором срочно предупреждают об опасности ИИ. Скоро мы достигнем той точки, когда ИИ превзойдет наши собственные возможности, и особенно когда сам ИИ сможет продолжать развиваться, что может очень быстро выйти из-под контроля. Они предупредили, что если искусственный интеллект действительно будет создан, это может означать конец человечества. Читай здесь.

Часто приводится следующий пример: Системе искусственного интеллекта дается задание вычислить число PI как можно точнее. Система размножается, захватывает контроль, уничтожает человечество, завоевывает всю галактику и, наконец, вычисляет число PI в течение миллиардов лет, потому что именно для этого была создана система, и это был самый эффективный способ!

Этот пример показывает, что системы со сверхинтеллектом, но без сознания, могут совершать совершенно непредсказуемые поступки. Не случайно София поднимает проблему этики. Автомобили или посудомоечные машины не нуждаются в этике. Но системы, принимающие решения самостоятельно, нуждаются в определенных базовых шаблонах или алгоритмах, на которых основываются их решения, так называемая "запрограммированная мораль". Например, никто не знает, как задать параметры самодостаточного беспилотника типа MQ-9 Reaper, который должен сбивать "террористов". Он может сам решать, стрелять или нет. Как он рассчитывает возможный "побочный ущерб" и насколько он приемлем? Читай здесь.

Разработка смертоносных автономных систем вооружения, сокращенно называемых LAWS, быстро прогрессирует. Кому или чему позволено определять основу для принятия решений машинами? Существует ли необходимость в международной дискуссии об этических принципах, в соответствии с которыми машинам должно быть позволено принимать решения? Какими должны быть эти принципы? Читай здесь.

Одним из первых, кто задумался об этике в роботах, был Айзек Азимов, который сделал это в своих рассказах "Я, робот. Уровень 5". Учитывая, что он написал эти рассказы более 70 лет назад, когда никто еще не слышал о "сингулярности", просто гениально!

Азимов предполагал, что роботы будут намного превосходить людей не только в физической силе и эффективности, но и в интеллекте. Чтобы избежать возможного вреда для людей, все роботы получили от своего производителя "U.S. Robot and Mechanical Men, Inc." "три закона робототехники", по которым они должны были действовать:

Первый закон обязывает робота не причинять вреда человеку, даже если он бездействует.

Второй закон обязывает робота подчиняться человеку, если это не нарушает первый закон.

Третий закон обязывает робота обеспечить собственную сохранность, если это не противоречит первым двум законам.

Азимов блестяще показывает, как скоро второй закон становится бессмысленным, потому что первый закон берет верх! Поскольку машины намного более интеллектуальны, чем люди, они вскоре классифицируют решения людей как несущественные: Люди сами не знают, что для них хорошо! Только машины могут рассчитать, какая форма правления лучше, например, как должна функционировать экономика, какое количество людей на планете является оптимальным и так далее. Человек неизбежно оказывается в диктатуре, созданной им самим.

Но чтобы второй закон все еще соблюдался pro forma и гордость человека не была оскорблена (что нарушило бы первый закон), машины действуют очень сдержанно и не дают прямых ответов на проблемы мира, чтобы не сделать человека несчастным. Машины движутся к оптимуму, не объясняя людям, в чем именно заключается этот оптимум, потому что люди в своем невежестве не могут принять оптимум. Может быть, это кастовая система, может быть, экодиктатура, может быть, матриархат?

"Мы не знаем. Только Машины знают, и они идут туда и берут нас с собой".

И все же Азимов первым законом установил наилучший из возможных параметров: Благосостояние людей имеет наивысший приоритет! Можно представить, что бы произошло, если бы параметры были заданы менее благоприятно, или если бы их вообще не было! Представьте себе, например, системы, которые, как компьютерные вирусы сегодня, просто выпускаются с миссией: "Завоевать мир!

Мир расколот на различные конкурирующие системы! Логично, что системы вооружений, которые все еще "традиционно" управляются человеческим интеллектом, скоро будут уступать тем, которые управляются искусственным интеллектом. Искусственный интеллект может и будет разрабатывать планы и сценарии, которые не сможет увидеть ни один человек. Это относится не только к военному сектору, но и к рыночным стратегиям, финансовым операциям, да практически ко всей жизни человека! Уже около 20 лет ни один человек не может обыграть компьютер в шахматы, а недавно даже в го. Интеллект машин растет экспоненциально, и только те государства и компании, которые используют этот интеллект для руководства и управления собой, будут преобладать над остальными! Это очень простой закон эволюции!

И так пройдет совсем немного времени, прежде чем слуга станет хозяином! Интересно, когда контроль над ядерным оружием будет передан машинам, которые смогут рассчитать высокую вероятность победы "своей страны" в первом ударе, и какой сопутствующий ущерб может быть допущен в процессе.

Как хорошо сказано в "Фаусте": "Я не могу избавиться от призраков, которых вызвал! Страх бесправия и порабощения человека его собственным творением действительно очень глубок и является темой бесчисленных книг и фильмов. Такое развитие событий не только вполне логично, но и уже ощущается в повседневной жизни, например, работа на конвейере, не отстающая от автоматизации, а также давление необходимости быть постоянно доступным, например, через мобильный телефон. Кто может представить себе, что в наше время можно не быть на связи, не пользоваться Интернетом или банковской картой - вещами, которые появились всего несколько лет назад?

Знамения времени указывают на диктатуру, даже если эта диктатура все еще называется "прогрессом". И мы увидим, сколько времени займет "битва против машин", предсказанная Германом Гессе. Альберт Эйнштейн однажды сказал, что он не знает точно, как будет вестись третья мировая война, но он знает, как будет вестись четвертая мировая война - опять мечом! Очень мудро для "отца атомной бомбы"!

Мусульмане действительно верят, что после диктатуры Даджжаля, величайшей скорби в истории человечества, весь этот "прогресс" снова исчезнет! Оружием последних битв станут конь и меч, а не машины! Поэтому обсуждение этики и морали для машин, то есть "соответствующих шариату" роботов, для мусульман излишне. Они должны думать о том, как обезопасить себя от этой фитны. Для этого необходимо понять природу этой фитны.