Авторы текста выступают за «центристский» подход к искусственному интеллекту. С одной стороны,они понимают, что от ИИ нам уже не отвертеться. С другой стороны, словно И.И.Обломов, они не готовы к тому, что блаженное почивание человека на лаврах единственного разумного существа будет прервано вторжением ИИ, который заберет себе все «оскары» и нобелевки. Нужно какое-то соглашение! Что ж, автор Генри Киссинджер — мастер компромисса.

The Wall Street Journal (США): каково это – быть человеком в эпоху ИИ

Размышления – это наше основное средство познания мира. Как все изменится, если думать начнут машины?

03.11.2021

Генри Киссинджер (Henry Kissinger) Эрик Шмидт (Eric Schmidt), Дэниэл Хаттенлохер (Daniel Huttenlocher)

Управление по вопросам научно-технической политики при президенте США призывает к разработке «билля о правах», который позволил бы защитить американцев в условиях «мира, основанного на технологиях искусственного интеллекта (ИИ)». Волнения касательно проникновения ИИ в жизнь людей вполне обоснованны и широко известны: многие боятся, что ИИ будет нарушать границы частной жизни и скомпрометирует прозрачность процессов, а также что предвзятые вводные данные будут выливаться в предвзятые конечные результаты, в том числе в таких важных для личного и общественного процветания сферах, как медицина, охрана правопорядка, прием на работу и выдача кредитов.

Однако развитие ИИ повлечет за собой еще одну фундаментальную перемену: он бросит вызов главенству человеческого мышления. На протяжении всей истории люди стремились понять окружающий мир и свою роль в нем. Начиная с эпохи Просвещения мы считали мышление —способность исследовать, понимать и объяснять — нашим основным средством познания мира. Именно через познание мира люди вносили свой вклад в его развитие. Последние 300 лет, то есть в эпоху, которую историки называют «веком разума», мы вели себя соответствующим образом: мы изучали, экспериментировали, изобретали и строили.

Теперь же ИИ — продукт человеческой изобретательности — постепенно подтачивает главенство человеческого мышления. Он исследует и начинает разбираться в самых разных аспектах существования мира гораздо быстрее нас. Он делает это иначе, чем мы, и в некоторых случаях такими способами, которые не доступны нашему пониманию.

В 2017 году компания Google DeepMind создала программу под названием AlphaZero, которая научилась выигрывать в шахматы, освоив эту игру без участия человека и выработав не совсем человеческую стратегию. Когда гроссмейстер Гарри Каспаров увидел, как она играет, он отметил, что AlphaZero потрясла концепцию шахмат «до самого основания». Программа не играла быстрее или эффективнее, но она как будто полностью переосмыслила шахматы.

В 2020 году появился новый антибиотик под названием халицин. Его открыли ученые Массачусетского технологического института, которые поручили ИИ провести расчеты, выходящие за рамки возможностей человеческого мозга, смоделировать миллионы вариантов и изучить ранее не исследованные и прежде никогда не объяснявшиеся методы уничтожения бактерий. Сделав это открытие, ученые отметили, что без помощи ИИ на открытие халицина при помощи традиционных экспериментальных методов пришлось бы потратить «запредельно много денег» — другими словами, его открытие было бы невозможным.

Языковая программная модель GPT-3, которой управляет компания OpenAI и которая обучается путем обработки текстов из интернета, уже способна создавать оригинальный текст. По сути, это литературное произведение, отвечающее предложенному Аланом Тьюрингом стандарту «разумного» поведения, которое невозможно отличить от поведения человека.

Технологии ИИ чрезвычайно многообещающи: переводы с самых разных языков, диагностика заболеваний, борьба с изменением климата — или как минимум более совершенное моделирование процесса изменения климата. Однако, как показали успехи программы AlphaZero в шахматах, изобретение халицина и сочинения GPT-3, использование ИИ для достижения заданной цели может повлечь за собой непредвиденные последствия, а именно открытие ранее неизвестных, но потенциально существенных аспектов реальности.

Это ставит людей перед необходимостью определить — или, вероятно, переосмыслить — нашу роль в мире. На протяжении 300 лет, то есть всего «века разума», люди руководствовались принципом «я мыслю — значит я существую». Но если ИИ тоже «мыслит», то кто тогда мы?

Если ИИ напишет лучший сценарий года, нужно ли давать ему «Оскара»? Если ИИ сможет смоделировать или провести самые важные дипломатические переговоры года, нужно ли присудить ему Нобелевскую премию мира? Или же ее нужно будет присудить людям, которые создали алгоритм данного искусственного интелелекта? Могут ли машины иметь «творческий» потенциал? Нужно ли создавать новые слова для описания их процессов?

Если ребенок, пользующийся поддержкой ИИ-помощника, начнет считать его «другом», что станет с отношениями этого ребенка со сверстниками? И что будет с его социальным и эмоциональным развитием?

Если ИИ способен заботиться о старушке в доме престарелых — напоминать ей о приеме лекарств, сообщать медперсоналу, если она упала, и составлять ей компанию другими способами, — смогут ли члены семьи навещать ее реже? Да и вообще нужно ли будет навещать ее? Если она большую часть времени будет общаться с машиной, а не с людьми, каким будет ее эмоциональное состояние на закате жизни?

Если в разгар войны в условиях неясности боевой обстановки ИИ рекомендует принять меры, которые могут повлечь за собой ущерб и даже жертвы среди мирного населения, должен ли командир прислушаться к нему?

Эти вопросы возникают все чаще теперь, когда глобальные платформы, такие как Google, Twitter и Facebook используют ИИ, чтобы накапливать и анализировать все больше информации о своих пользователях, да и не только о них. Затем ИИ принимает решения касательно того, что важно и — все чаще — что истинно. Действительно, главным обвинением разоблачительницы Фрэнсис Хауген (Frances Haugen) в адрес Facebook стало то, что руководству компании хорошо известно, что алгоритмы накопления и фильтрации данных усиливают влияние дезинформации и усугубляют психические недуги у пользователей.

Чтобы ответить на эти вопросы, необходимо действовать сразу в нескольких направлениях. Нужно рассмотреть не только практические и правовые аспекты существования ИИ, но и философские: если ИИ воспринимает такие аспекты реальности, которые люди воспринять не в состоянии, как это может повлиять на восприятие, познавательные способности и взаимодействие людей? Может ли ИИ подружиться с людьми? Каким окажется воздействие ИИ на культуру, человеческую природу и историю?

Кроме того, необходимо расширить рассмотрение вопроса о воздействии ИИ на жизнь человека, выйдя за рамки разработчиков и регуляторов и задумавшись о таких сферах, как медицина, здравоохранение, окружающая среда, сельское хозяйство, бизнес, психология, философия, история и так далее. Цель этих усилий должна заключаться в том, чтобы избежать чрезмерно резких реакций. Нам не нужно полное подчинение ИИ, но, с другой стороны, нам не нужны и жесткие ограничения. Нам нужно поискать золотую середину, то есть способы внушить ИИ человеческие ценности, такие как достоинство и свобода воли, которые так ценит человек. В Соединенных Штатах необходимо создать комиссию под руководством правительства, в состав которой должны войти эксперты и мыслители из самых разных сфер. Развитие ИИ неизбежно, однако мы в состоянии повлиять на то, каким будет его конечный итог.

Генри Киссинджер занимал должность госсекретаря США в 1973 по 1977 год и был советником по вопросам национальной безопасности с 1969 по 1975 год.

 

Эрик Шмидт был генеральным директором компании Google с 2001 по 2011 год, а с 2011 по 2017 год он занимал должность председателем исполнительного комитета совета директоров компании Alphabet.

 

Дэниэл Хаттенлохер — декан Колледжа вычислительных технологий имени Шварцмана при Массачусетском технологическом институте.

 

Оставить комментарий

avatar
Новости

Суммарная стоимость сотни самых дорогих элитных квартир Москвы в 2021 году достигла 1,08 миллиарда д [...]

Лидер Радикальной партии и бывший депутат Верховной Рады Олег Ляшко раскрыл существование тайного бу [...]

В России за прошедшие сутки госпитализировали 12 837 пациентов с коронавирусом . Об этом сообщается [...]

В Хабаровском крае власти приняли решение привлечь к работе по борьбе с COVID-19 врачей, которые нед [...]

Бывший лидер США Дональд Трамп стал самым популярным потенциальном кандидатом от республиканцев, пол [...]

Оппоненты президента США Джо Байдена будут использовать против него скандал с журналистом Fox News, [...]

Крупные участники российского рынка майнинга оценили последствия возможного запрета обращения и майн [...]

Начальник управления Народной милиции самопровозглашенной Луганской народной республики (ЛНР) Ян Лещ [...]

В 2022 году мир может столкнуться со сверхвысокими ценами на нефть, пообещали аналитики. По оценкам [...]

Американские демократы призвали продемонстрировать подводную силу США для сдерживания «военной агрес [...]

На горнолыжном комплексе Чункурчак в Киргизии и на курорте Амирсой в Узбекистане сотни туристов заст [...]

Российская модель и бывшая девушка рэпера Тимати Анастасия Решетова отпраздновала день рождения и см [...]

Комитет Совета Федерации по социальной политике одобрил закон о пожизненном заключении для педофилов [...]

Самую большую зарплату среди молодых россиян получают программисты, занимающиеся внедрением и сопров [...]

Девятилетняя студентка психологического факультета Московского государственного университета имени Л [...]

Российские и сирийские истребители совершили первое в своем роде совместное воздушное патрулирование [...]

Американская девушка-боец смешанного стиля (MMA) Ванесса Демопулос заявила, что больше не является с [...]

Россия и США могут решить проблему Украины по «австрийскому сценарию», считает политолог Алан Кафрун [...]

Президент Украины Владимир Зеленский, которому 25 января исполнилось 44 года, не будет праздновать д [...]

Модель из Великобритании, заработавшая миллионы фунтов стерлингов на OnlyFans, рассказала, что предп [...]

 

Вопрос простодушного

 

 Может кто-нибудь вспомнит

имена тех, кто настоял о закрытии

наших военных баз на Кубе

и во Вьетнаме ?

Зачем нам иностранные

инвесторы, которые больше

вывозят,  чем

оставляют в России?

Регистрационный

номер СМИ :

№ ФС 77-81400

__________

На Фейсбуке:

Igor Mikhaylov

Сайт создан irsolo.com