РусУкр
20.01.2017 г.
Пионтковский: В речи Путина в защиту Трампа было отчетливо слышно "торжество вербовщика"
Россия разместит в Сирии базу ВМФ на 49 лет
Количество выживших под завалами отеля в Италии увеличилось до десяти
В Сети появилось видео со смертельной аварией на ралли в Монте-Карло
Стала известна дата выхода пятого сезона «Карточного домика»
Экс-президент Гамбии согласился покинуть пост и страну
Автор "русского досье Трампа" бросил перчатку двум самым могущественным людям, - Илларионов
Суд разрешил Генпрокуратуре проводить заочное досудебное расследование по делу Януковича
Глава "Офицерского корпуса" Рубан: Я помог Савченко встретиться с Захарченко и Плотницким
Стало известно имя нового генерального продюсера телеканала Newsone
Президент Трамп подписал свои первые указы
Классики жанра: о «Rammstein» сняли документальный фильм
Когда начнется реальное объединение украинской православной церкви
Смерть является еще одной иллюзией: известный профессор опубликовал сенсационные выводы
Американские знаменитости присоединились к массовым протестам против инаугурации Трампа
Порошенко пояснил, чего Украина ждет от США в эпоху Трампа
Смертельный троллинг: смелая утка дразнит тигра (ВИДЕО)
В столице США протестующие против Трампа бьют витрины (ВИДЕО)
Миллионы просмотров: "анти-Трамповский" клип Gorillaz взорвал сеть (ВИДЕО)
Почему украинские компании кинулись массово менять директоров
Перестрелка в Гидропарке: трое ранены
Украина успешно побеждает "тень"
В Британии пообещали не забывать об Украине даже после Brexit
Трещина, которая образовалась в гигантском леднике в Антарктике, становится все больше
Почему МВФ так хочет повысить пенсионный возраст в Украине
Российский политолог пояснил, почему Порошенко закрывает Roshen в Липецке именно сейчас
Маленькие "моржи": "Им не страшно, им весело" (ВИДЕО)
Когда украинцам ждать новую волну мобилизации
Стали известны подробности жестокого убийства исполнительницы "Ламбады"
Иностранные войска в Украине. Эксперт объяснил, что предпримет Кремль
Как из интернет-яйца вылупился реальный живой пушистик (ВИДЕО)
Крушение кремлевских надежд, - Казарин
Еврокомиссия раскритиковала украинскую энергетическую стратегию
Путин все никак не выйдет из образа шантажиста, - Сотник
Путин боится возвращать Донбасс Киеву, - российский политолог
Откуда в Украину потекли доллары, и что теперь будет с курсом, - банкиры
Кабмин не будет выплачивать субсидии населению деньгами
Как в Кабмине ответили на возмущение из-за налога в 704 грн
Джентльмен и наперсточник, - Портников
Курсы валют при закрытии межбанка 20 января 2017 года
Трамп попросил около 50 сотрудников администрации Обамы не уходить в отставку
Агентство Блумберг дал сенсационный прогноз по украинской гривне
Демократия только танками не ограничится, - Злой Одессит
Самый большой страх России, - российский политолог
Минимум 100 украинских нардепов нашли заоблачные суммы, чтобы посетить инаугурацию Трампа, - Тарас Черновил
Как украинские бойцы на Крещение отбивают атаку российских боевиков в промзоне Авдеевки (ВИДЕО)
Первый за много лет клип Gorillaz набирает миллионы просмотров (ВИДЕО)
Atlantic Council защитит интересы Burisma Злочевского
С завтрашнего дня проезд в киевских маршрутках значительно подорожает, - КГГА
В "Киевэнерго" новое оправдание космическим платежкам: из-за несовершенным законодательста люди платят за себя и за своего соседа
Представлен первый модульный электровелосипед (ФОТО)
Почему кредиторы Приватбанка пытаются заблокировать валюту клиентов, - адвокат
Военный журналист рассказал, как Украине вернуть Донбасс
Беспроводные зарядные станции для электромобилей установят под асфальтом (ВИДЕО)
У Меркель резко отреагировали на возможное возвращение РФ в G8
Джордж Сорос предсказывает крах Трампа
В Украине выросли реальные зарплаты
Житель США будет участвовать в церемонии инаугурации президента 18-й раз
Почему Кремль загнал себя в тупик
Отключат газ? В РФ решили проявить жесткость к Украине по "долгу Януковича"
Все новости »

Может ли искусственный интеллект угрожать человечеству: описаны возможные сценарии

Общество, 17.10.2016
 
Печать Отправить на почту

 

 

Невролог и философ Сэм Харрис описывает сценарии, которые хоть и кажутся страшными, но вполне могут произойти с нами, как с видом.

И в самом деле, очень трудно представить, как Искусственный Интеллект (ИИ) будет нас уничтожать, но всё же, есть люди, которые пытаются перенестись будущее в настоящее и предугадать дальнейшие возможные пути развития человечества. И вот о чём нам стоит задуматься перед тем как над этим же вопросом задумается ИИ, информирует news.eizvestia.com.

Что выберет искусственный интеллект в тот момент, когда он стоит перед выбором?

Одна из главных проблем, с которой столкнется человек с развитием ИИ, это как заставить вычислительные системы принимать не просто рассудительные решения, но и эмоциональные. Потому что ИИ может с легкость выбрать убийство всех людей, для того, чтобы спасти другие виды. Этот как если бы на вас напал бандит с ножом, а вы вытащили ваш пистолет. И в этот момент, вместо того чтобы защитить хозяина, ваша верная собака нападет на вас просто потому что у вас в руках более опасное оружие…

content_2__econet_ru

А что будет если двери будут одинаковы? За дверью номер один …

Учитывая то, насколько ценными считаются данные разведки, что случится если с ними начнет работать ИИ? Что может за этим последовать? Полномасштабная ядерная война? Глобальная пандемия? Джастин Бибер станет президентом Соединенных Штатов? Дело в том, что ИИ может просто уничтожить цивилизацию, в том виде, в котором мы её знаем. Уже сегодня многие говорят, как сильно и быстро деградирует общество. А что будет если об этом подумает ИИ и решит, что проще будет уничтожить человечество, а не продолжать технологическое развитие, которое только ухудшает ситуацию?

А что за дверью номер два?

Единственной альтернативой является то, что мы год за годом продолжаем совершенствовать наши интеллектуальные машины. В определенный момент, мы будем строить машины, которые умнее, чем мы, и как только у нас появятся машины, которые умнее нас, они начнут совершенствовать себя. И тогда мы рискуем, создать «интеллектуальный взрыв», и что этот процесс может уничтожить всех нас. Речь идет о том, что мы будем строить машины, которые гораздо более компетентны, чем мы, что малейшее расхождение между их целями и нашими собственными может привести к полному нашему уничтожению, как вида.

Насекомые XXI века

Просто подумайте о том, как мы относимся к муравьям. Мы не ненавидим их. Мы не сходим с нашего пути, чтобы нанести им вред. Мы перешагиваем через этих маленьких работяг не обращая на них внимания, но всякий раз, когда их присутствие серьезно конфликтует с одной из наших целей, скажем, при строительстве здания, мы уничтожаем их без малейшего сожаления. Речь идет о том, что мы в один прекрасный день построим машины, которые, независимо от того являются ли они сознательными или нет, могут начать относиться к нам как к муравьям.

Интеллект является результатом процесса обработки информации в физических системах. Мы уже создали узкий интеллект для наших машин, и многие из них выполняют определенные функции на уровне или даже лучше человека. Интеллект является либо источником всего того, что мы ценим, или оружием, которое мы используем чтобы защитить все, что мы ценим. Это наш самый ценный ресурс. У нас есть проблемы, которые мы обязаны решить. Мы хотим победить СПИД, диабет и рак. Мы хотим построить по-настоящему рабочие экономические системы. Мы хотим улучшить климат на планете. А что будет делать ИИ, если у него просто отсутствует такое понятие как глубокое мышление?

Где мы находимся?

Человечество ещё не добралось до пика интеллекта. Это очень важно понять. Это то, что делает наше положение настолько нестабильным, и что делает наши интуитивные риски проигрышными. В подавляющем большинстве случаев, потенциал человеческого интеллекта простирается гораздо дальше, чем мы в настоящее время представляем себе. А что если мы построим машины, которые будут умнее нас? Они же смогут гораздо лучше просчитывать будущее и лучше определять то место где они находятся, чтобы в итоге выбрать направление дальнейшего движения.

Скорость интеллекта

Представьте себе, что человечество построило Сверхразумный ИИ, который при этом не умнее среднестатистической группы ученых. Единственное отличие заключается в том, что его электронные схемы функционируют примерно в миллион раз быстрее, чем наши, биохимических. В результате эта машина «думает» примерно в миллион раз быстрее, чем сознание, которое его построило. Таким образом, оставив ИИ работать в течение недели, мы обнаружим, что он выполнил 20000 лет интеллектуального труда в человеческом эквиваленте. Что нам делать с такой скоростью обработки данных? Тормозить скорость работы ИИ до человеческого уровня?

Лучший вариант развития событий

На самом деле, как вас так и меня больше всего волнует то, как будут развиваться события в идеальной среде. Представим, что мы додумались и сконструировали Сверхразумный ИИ, который не имеет проблем с безопасностью. Это как если бы мы были создали оракула, который ведет себя точно так, как было задумано. Что же мы получим? По сути, мы создадим идеальное трудосберегающее устройство. Итак, мы говорим о конце нудного человеческого существования. Класс!!! Также можно сказать, что создание подобной машины станет концом всего интеллектуального труда. Многим может показаться, что это хорошо, но спросите себя, что произойдет в таком случае? Даже сейчас, при незначительном развитии ИИ, мы наблюдаем рост имущественного неравенства и безработицы, которой мы никогда ранее не наблюдали. Мы не готовы делиться своим богатством с другими, и скорей всего миром будут править несколько триллионеров, в то время как оставшаяся часть человечества будет полностью зависеть от их воли, а точнее от воли подвластного им ИИ, который будет действовать сверхрационально не жалея никого.

Следующая гонка вооружений

Представим, что у каждой страны в мире есть ИИ, который просчитывает идеальный сценарий для победы в глобальной войне. Неважно какая это война, наземная, в воздухе или вообще кибервойна, победный сценарий получат все. По сути, ИИ создаст для каждой сверхдержавы стратегию победы, которая в итоге приведет к концу человечества, потому что это будет война Искусственных Интеллектов против человечества.

«Не волнуйтесь и не засоряйте вашу хорошенькую головку этими глупыми вопросами…»

По сути, ИИ создаст общество нарцисов-растаманов. Don`t worry, be happy. Именно это завуалировано говорит ИИ облегчая нам жизнь уже сегодня. Уже сегодня мы чувствуем, как ИИ в его зачаточном виде делает нас глупее, а что будет через 50 или 100 лет, когда, как нам обещают уже будет ИИ превосходящий интеллект человека. Если интеллект занимается лишь вопросом обработки информации, и мы продолжаем совершенствовать наши машины, то не думаете ли Вы что мы уже создали суперинтеллект? Мы уже сегодня замечаем, что ИИ небезопасен, например ИИ в навигаторах, который заставляет людей выезжать на встречную полосу и прыгать на автомобиле в озера. И я говорю о том, что у нас всего лишь 50 лет, чтобы встретиться лицом к лицу с главным врагом человека — сверхинтеллектом.

Технологии прямо в мозг

Машины в будущем не могут не разделять наши ценности, потому что они будут в буквальном смысле продолжением нас самих. Они будут вшиты на наш мозг, и мы, по сути, станем их лимбической системой. Подумайте о том, что вы что-то вставляете себе в мозг, что может считывать информацию и обрабатывать её по неизвестным вам алгоритму. Вы иногда не доверяете своему мозгу, а тут микросхема. Но с приходом сверхразумного ИИ, встраивание чипов себе в мозг, будем самым безопасным и благоразумным способом идти вперед. Но вопрос безопасности данных, который мы не можем решить даже сегодня, заставляет задуматься, что всё это как-то неправильно.

Мы должны рассмотреть эти сценарии и действовать

У человечества нет решения проблемы ИИ, мы можем предложить и просто рекомендовать. Человек должен изначально строить ИИ с учетом принципа «не навреди человечеству». Когда вы говорите о Сверхразумных ИИ, который может внести изменения в себя, кажется, что для того, чтобы приступить к его созданию, мы, как вид, должны решить все наши внутренние проблемы, иначе мы будем обречены. Мы должны признать, что мы находимся в процессе создания своего рода бога. Представьте себе, что вы живете под пристальным взглядом Бога, которого вы физически ощущаете и что ходить на исповедь вам придется не в церковь, а к своему мобильному устройству.


По материалам econet.ru

В данный момент Вы читаете новость "Может ли искусственный интеллект угрожать человечеству: описаны возможные сценарии". Вас также, возможно, заинтересуют другие последние новости Украины и мира на eizvestia.com




  • Мороз повысил зарплаты (10 лет назад) Мороз повысил зарплаты (10 лет назад)

    Верховная Рада довела минимальную заработную плату до уровня прожиточного минимума для трудоспособных лиц.

  • Новогодний мотоцикл как символ ускорения отмены политреформы (10 лет назад) Новогодний мотоцикл как символ ускорения отмены политреформы (10 лет назад)

    Отмена политреформы и досрочные выборы в Раду вполне возможны. Об этом заявил вчера президент Виктор Ющенко, общаясь с представителями СМИ.

  • ДПТ в столице с большими последствиями (10 лет назад) ДПТ в столице с большими последствиями (10 лет назад)

    В киевском строительстве запахло очередным большим скандалом. Архитекторы обвиняют начальника главного управления охраны культурного наследия Киевгорадминистрации Руслана Кухаренко в изменении детальной планировки территории застройки района (ДПТ) Подольского района. Они считают, что господин Кухаренко сделал это в угоду строителям. Киевская организация Национального союза архитекторов Украины (НСАУ) обратилась в Генеральную прокуратуру с просьбой возбудить уголовное дело по этому факту.

  • Минимум заплатят по часам (10 лет назад) Минимум заплатят по часам (10 лет назад)

    В Украине введут минимальную почасовую зарплату. Сейчас она бы составила 2,37 грн.

Общество

Ненавязчиво ожидала помощи: в Соломенскую больницу Киева пришла раненая собака (7471)

Бабушка с молотком и пьяные мужики: кадры с камеры, установленной в обычном российском доме, стали хитом (ВИДЕО) (7059)

Девушкам на заметку: в Украине орудует альфонс-мошенник (ФОТО) (5187)

В Украине празднуют Крещение: как киевляне окунались в прорубь (ФОТО) (4362)

В Германии создали женское нижнее белье с сигнализацией и кодовым замком (4357)

Уникальный способ "буксировки" автомобиля на дорогах России позабавил пользователей Сети (ВИДЕО) (3287)

Полиция формирует сеть агентов (3100)

Экстрим по-корейски: рыбаки ловят форель голыми руками в ледяной воде (ВИДЕО) (2639)

Ученые: Какие страны первыми пострадают из-за глобального потепления (2442)

Три ветки hyperloop могут пройти через Киев (2098)

Доктор наук Ольга Броварец сделала открытие мирового уровня (2086)

Новая подлая афера в Украине: В Днепре активизировались мошенники (1925)

Планета X может оказаться планетой-сиротой (1903)

Во время поисков обломков Ту-154 нашли американский самолет (1738)

Мирослав Гай: "В войне за цивилизацию - Мы Форпост и есть шанс стать свидетелем падения мучителя украинского народа" (1697)

Рейтинг новостей

Бабушка с молотком и пьяные мужики: кадры с камеры, установленной в обычном российском доме, стали хитом (ВИДЕО) (7055)

"Сенсаційно": Вчені на відео зняли гігантський НЛО (ВІДЕО) (5262)

В Германии создали женское нижнее белье с сигнализацией и кодовым замком (4356)

Путин боится возвращать Донбасс Киеву, - российский политолог (4144)

У Франції блискавка збила НЛО (ВІДЕО) (4018)

Уникальный способ "буксировки" автомобиля на дорогах России позабавил пользователей Сети (ВИДЕО) (3282)

Россия развязывает новую войну, - журналист (2961)

Слава Рабинович рассказал, как Путин и его ОПГ будут спасать свои шкуры (2795)

В прессу попадают первые капли компромата на РФ и Трампа, - Пономарь (2790)

Путинские войска возле украинских границ: появились новые устрашающие сведения (2456)

Экономику России ожидают неприятные сюрпризы от Трампа (2442)

Самый большой страх России, - российский политолог (2401)

Крушение надежд Кремля, или история про оптику, - Павел Казарин (2355)

В России "массовый психоз", — журналист (2225)

Кто расчленял Украину: имена главных сепаратистов на одном фото (ИНФОГРАФИКА) (2067)



Последние новости «I» в соцсетях

  

Новости партнеров

Загрузка...
Загрузка...
bigmir)net TOP 100

Экономические известия

Ежедневная деловая газета

Украинский бизнес портал

Электронный деловой журнал

Эксперт

Украинский деловой журнал

Статус

Еженедельный деловой журнал