РусУкр
24.03.2017 г.
МВФ приступает к работе в Украине
Последние новости: Геращенко сделал серьезное заявление о киллере, убравшем "врага России"
Единственный способ надавить на Россию, - посол
В РФ спешат, нервничают, палятся, а сковородка Трампа всё греется, - Пономарь
"Последняя жертва": Бутусов рассказал о странном поведении Путина в день убийства Вороненкова
Кох показал, насколько комичными выглядят причитания европейских политиков-"любителей Путина"

23.03.2017 г.
«Рекомендации» Кремля президенту Болгарии для победы на выборах, - The Wall Street Journal
Убийство Вороненкова: Ставки стали выше, - Аnti-colorados
Нам очень нужен свой, украинский Моссад - Айдер Муждабаев
Ситуация в Балаклее: свежая информация - начали работать танки
Олег Скрипка собирает "новый состав" для своей легендарной группы
Американский генерал заявил, что Москва поставляет оружие талибам
Без скандального драйва не интересно: в РФ отвергли идею выступления Юлии Самойловой на «Евровидении» с помощью видеотрансляции
Вороненков — это второй Литвиненко. Версия Юлии Латыниной
США приблизились к созданию принципиально нового вида оружия (ВИДЕО)
Появилось видео пожара в Балаклее с высоты птичьего полета
Столкновения цивилизаций: Мир на чекистском крюке, - Игорь Яковенко
3D PointX: Intel планирует заново изобрести компьютерную память
Предсмертное интервью Вороненкова: В России кричат, что нужно обменять меня на Сущенко, а если не получится – убить, как Бандеру
В сети опубликована еще одна запись очевидца с места убийства Вороненкова (ВИДЕО)
Пора ремонтировать: в Киеве на три дня ограничат движение по мосту Метро
Держите Трампа: США вновь нарастили добычу и запасы нефти, - Злой одессит (ИНФОГРАФИКА)
Искусственный интеллект и биотехнологии создадут новый вид человека
Диверсия в Балаклее: в Польше заявили об угрозе для НАТО из-за боевых дронов РФ
Киеврада предлагает устанавливать алкозамки в общественном транспорте
Европа объединяется: Стальные жеребцы кельтов уже в Эстонии, - Злой одессит (ФОТО)
«Киевэнерго» внедрил услугу предварительной записи в центрах обслуживания
Рада окончательно отменила печати для предпринимателей
Нефтяной коллапс: Для экономики России начинается обратный отсчет
ТОП-10 самых богатых женщин планеты 2017 года
Предотвращено убийство прокурора, расследующего попытку пророссийского переворота в Черногории
НАБУ проводит обыск у Николая Мартыненко
Ситуация на фронте остается напряженной: за день 43 обстрела украинских бойцов, трое военных ранены, - штаб АТО
Что же на самом деле произошло в Балаклее
Золото на COMEX незначительно подорожало
Израиль тоже вставил РФ нож в спину, — Der Spiegel
Кричащая роскошь российской элиты при Путине, - Le Monde
Новости Украины: В МВФ объяснили, почему заставляют украинцев ждать
Зачем Германии искусственное солнце
Самойлову все же "впихнут" в "Евровидение
Кто и когда попадет под весенний призыв
Только Трамп может заняться Украиной, - The Wall Street Journal
Рада приняла важный для бизнеса закон
Бутусов рассказал, кто выманил Вороненкова на встречу
Война началась. Портников поянил, зачем Кремлю смерть Вороненкова
К моменту трибунала в Гааге свидетелей может не остаться, - блогер Тверской
Убийца Вороненкова скончался на операционном столе
Внезапно: На Львовщине нашли клад нефти в собственном огороде
"Ситуация в России сейчас как в нацистской Германии Гитлера": 10 цитат погибшего в Киеве экс-депутата Вороненкова
Главные последствия убийства Вороненкова
Как Крым позволил Путину заявить, что он снова сделал Россию великой
В Украине стартовали продажи нового iPhone 6
"Звезда и настоящий полковник". История Марии Максаковой и Дениса Вороненкова
Украинская ассоциация Римского клуба и НАН договорились о стратегическом сотрудничестве
СБУ проводит обыск в украинской компании YouControl
Матиос рассказал, сколько боеприпасов было на складах в Балаклее
Я редко видел, чтобы киллер брал с собой служебное удостоверение. Этот – взял
"Слава тебе Господи": Теща Вороненкова обрадовалась смерти экс-депутата
Столичный Шулявский мост «зафиксировали» бетонными блоками
Площадь пожара на складе боеприпасов в Балаклее увеличилась
Все новости »

Может ли искусственный интеллект угрожать человечеству: описаны возможные сценарии

Новости общества, 17.10.2016
 
Печать Отправить на почту

 

 

Невролог и философ Сэм Харрис описывает сценарии, которые хоть и кажутся страшными, но вполне могут произойти с нами, как с видом.

И в самом деле, очень трудно представить, как Искусственный Интеллект (ИИ) будет нас уничтожать, но всё же, есть люди, которые пытаются перенестись будущее в настоящее и предугадать дальнейшие возможные пути развития человечества. И вот о чём нам стоит задуматься перед тем как над этим же вопросом задумается ИИ, информирует news.eizvestia.com.

Что выберет искусственный интеллект в тот момент, когда он стоит перед выбором?
</strong>
Одна из
главных проблем, с которой столкнется человек с развитием ИИ, это как заставить вычислительные системы принимать не просто рассудительные решения, но и эмоциональные. Потому что ИИ может с легкость выбрать убийство всех людей, для того, чтобы спасти другие виды. Этот как если бы на вас напал бандит с ножом, а вы вытащили ваш пистолет. И в этот момент, вместо того чтобы защитить хозяина, ваша верная собака нападет на вас просто потому что у вас в руках более опасное оружие…

content_2__econet_ru

А что будет если двери будут одинаковы? За дверью номер один …

Учитывая то, насколько ценными считаются данные разведки, что случится если с ними начнет работать ИИ? Что может за этим последовать? Полномасштабная ядерная война? Глобальная пандемия? Джастин Бибер станет президентом Соединенных Штатов? Дело в том, что ИИ может просто уничтожить цивилизацию, в том виде, в котором мы её знаем. Уже сегодня многие говорят, как сильно и быстро деградирует общество. А что будет если об этом подумает ИИ и решит, что проще будет уничтожить человечество, а не продолжать технологическое развитие, которое только ухудшает ситуацию?

А что за дверью номер два?

Единственной альтернативой является то, что мы год за годом продолжаем совершенствовать наши интеллектуальные машины. В определенный момент, мы будем строить машины, которые умнее, чем мы, и как только у нас появятся машины, которые умнее нас, они начнут совершенствовать себя. И тогда мы рискуем, создать «интеллектуальный взрыв», и что этот процесс может уничтожить всех нас. Речь идет о том, что мы будем строить машины, которые гораздо более компетентны, чем мы, что малейшее расхождение между их целями и нашими собственными может привести к полному нашему уничтожению, как вида.

Насекомые XXI века

Просто подумайте о том, как мы относимся к муравьям. Мы не ненавидим их. Мы не сходим с нашего пути, чтобы нанести им вред. Мы перешагиваем через этих маленьких работяг не обращая на них внимания, но всякий раз, когда их присутствие серьезно конфликтует с одной из наших целей, скажем, при строительстве здания, мы уничтожаем их без малейшего сожаления. Речь идет о том, что мы в один прекрасный день построим машины, которые, независимо от того являются ли они сознательными или нет, могут начать относиться к нам как к муравьям.

Интеллект является результатом процесса обработки информации в физических системах. Мы уже создали узкий интеллект для наших машин, и многие из них выполняют определенные функции на уровне или даже лучше человека. Интеллект является либо источником всего того, что мы ценим, или оружием, которое мы используем чтобы защитить все, что мы ценим. Это наш самый ценный ресурс. У нас есть проблемы, которые мы обязаны решить. Мы хотим победить СПИД, диабет и рак. Мы хотим построить по-настоящему рабочие экономические системы. Мы хотим улучшить климат на планете. А что будет делать ИИ, если у него просто отсутствует такое понятие как глубокое мышление?

Где мы находимся?

Человечество ещё не добралось до пика интеллекта. Это очень важно понять. Это то, что делает наше положение настолько нестабильным, и что делает наши интуитивные риски проигрышными. В подавляющем большинстве случаев, потенциал человеческого интеллекта простирается гораздо дальше, чем мы в настоящее время представляем себе. А что если мы построим машины, которые будут умнее нас? Они же смогут гораздо лучше просчитывать будущее и лучше определять то место где они находятся, чтобы в итоге выбрать направление дальнейшего движения.

Скорость интеллекта

Представьте себе, что человечество построило Сверхразумный ИИ, который при этом не умнее среднестатистической группы ученых. Единственное отличие заключается в том, что его электронные схемы функционируют примерно в миллион раз быстрее, чем наши, биохимических. В результате эта машина «думает» примерно в миллион раз быстрее, чем сознание, которое его построило. Таким образом, оставив ИИ работать в течение недели, мы обнаружим, что он выполнил 20000 лет интеллектуального труда в человеческом эквиваленте. Что нам делать с такой скоростью обработки данных? Тормозить скорость работы ИИ до человеческого уровня?

Лучший вариант развития событий

На самом деле, как вас так и меня больше всего волнует то, как будут развиваться события в идеальной среде. Представим, что мы додумались и сконструировали Сверхразумный ИИ, который не имеет проблем с безопасностью. Это как если бы мы были создали оракула, который ведет себя точно так, как было задумано. Что же мы получим? По сути, мы создадим идеальное трудосберегающее устройство. Итак, мы говорим о конце нудного человеческого существования. Класс!!! Также можно сказать, что создание подобной машины станет концом всего интеллектуального труда. Многим может показаться, что это хорошо, но спросите себя, что произойдет в таком случае? Даже сейчас, при незначительном развитии ИИ, мы наблюдаем рост имущественного неравенства и безработицы, которой мы никогда ранее не наблюдали. Мы не готовы делиться своим богатством с другими, и скорей всего миром будут править несколько триллионеров, в то время как оставшаяся часть человечества будет полностью зависеть от их воли, а точнее от воли подвластного им ИИ, который будет действовать сверхрационально не жалея никого.

Следующая гонка вооружений

Представим, что у каждой страны в мире есть ИИ, который просчитывает идеальный сценарий для победы в глобальной войне. Неважно какая это война, наземная, в воздухе или вообще кибервойна, победный сценарий получат все. По сути, ИИ создаст для каждой сверхдержавы стратегию победы, которая в итоге приведет к концу человечества, потому что это будет война Искусственных Интеллектов против человечества.

«Не волнуйтесь и не засоряйте вашу хорошенькую головку этими глупыми вопросами…»

По сути, ИИ создаст общество нарцисов-растаманов. Don`t worry, be happy. Именно это завуалировано говорит ИИ облегчая нам жизнь уже сегодня. Уже сегодня мы чувствуем, как ИИ в его зачаточном виде делает нас глупее, а что будет через 50 или 100 лет, когда, как нам обещают уже будет ИИ превосходящий интеллект человека. Если интеллект занимается лишь вопросом обработки информации, и мы продолжаем совершенствовать наши машины, то не думаете ли Вы что мы уже создали суперинтеллект? Мы уже сегодня замечаем, что ИИ небезопасен, например ИИ в навигаторах, который заставляет людей выезжать на встречную полосу и прыгать на автомобиле в озера. И я говорю о том, что у нас всего лишь 50 лет, чтобы встретиться лицом к лицу с главным врагом человека — сверхинтеллектом.

Технологии прямо в мозг

Машины в будущем не могут не разделять наши ценности, потому что они будут в буквальном смысле продолжением нас самих. Они будут вшиты на наш мозг, и мы, по сути, станем их лимбической системой. Подумайте о том, что вы что-то вставляете себе в мозг, что может считывать информацию и обрабатывать её по неизвестным вам алгоритму. Вы иногда не доверяете своему мозгу, а тут микросхема. Но с приходом сверхразумного ИИ, встраивание чипов себе в мозг, будем самым безопасным и благоразумным способом идти вперед. Но вопрос безопасности данных, который мы не можем решить даже сегодня, заставляет задуматься, что всё это как-то неправильно.

Мы должны рассмотреть эти сценарии и действовать

У человечества нет решения проблемы ИИ, мы можем предложить и просто рекомендовать. Человек должен изначально строить ИИ с учетом принципа «не навреди человечеству». Когда вы говорите о Сверхразумных ИИ, который может внести изменения в себя, кажется, что для того, чтобы приступить к его созданию, мы, как вид, должны решить все наши внутренние проблемы, иначе мы будем обречены. Мы должны признать, что мы находимся в процессе создания своего рода бога. Представьте себе, что вы живете под пристальным взглядом Бога, которого вы физически ощущаете и что ходить на исповедь вам придется не в церковь, а к своему мобильному устройству.


По материалам econet.ru

В данный момент Вы читаете новость "Может ли искусственный интеллект угрожать человечеству: описаны возможные сценарии". Вас также, возможно, заинтересуют другие последние новости Украины и мира на eizvestia.com



Аналитика



  • Неучам платят меньше (10 лет назад) Неучам платят меньше (10 лет назад)

    Уровень образования гражданина, как правило, прямо и непосредственно влияет на его положение в обществе и доходы. Но очень часто действительно значимым для специалиста становится не первое, неосознанное и ...

  • В НКРС сменили главу (10 лет назад) В НКРС сменили главу (10 лет назад)

    Болезнь занимавшего до вчерашнего дня пост главы Национальной комиссии регулирования связи Олега Гайдука, которая длилась около четырех месяцев, завершилась его увольнением. Соответствующее постановление Кабмина ...

  • Кабмин грозится посчитать наши деньги и часть из них срочно изъять (10 лет назад) Кабмин грозится посчитать наши деньги и часть из них срочно изъять (10 лет назад)

    Кабмин вознамерился сосчитать наши реальные доходы и обложить их налогами. В распоряжении «і» оказался правительственный законопроект, предусматривающий широкое использование непрямых методов определения налоговых ...

  • Леонид Черновецкий отреагировал на критику (10 лет назад) Леонид Черновецкий отреагировал на критику (10 лет назад)

    После публикации «i» о том, что Киевский городской центр «По работе с женщинами» находится под угрозой закрытия («Защитников женских прав оставили без крыши» №46(579) 19. 03.07), мэр Киева Леонид Черновецкий выделил ...

Новости общества

Записки медсестры: о чем жалеют умирающие (6207)

Как поменялось женское тело за последние 60 лет (3498)

Обидно до слез: Состояние "Донбасс Арены" после захвата террористами "ДНР" (ВИДЕО) (2184)

Днепр удивил эротической концертной программой для пенсионеров (ФОТО) (1996)

Переход на летнее время: когда в Украине переведут часы (1742)

Одесситам провели экскурсию на кораблях НАТО (ФОТО) (1591)

Во Львове требуют отставки Президента и правительства (1407)

Компания Google открыла доступ к новому способу сжатия JPEG (1344)

"Больше некуда бежать", - блогер о борьбе с внутренними "монстрами" (1337)

Белозерская: Как Украине поступить с представительницей России на "Евровидении 2017" (1329)

Невзоров: РПЦ будет строить козни на пути к независимости УПЦ (1134)

Похожи ли мы на россиян? - блогер (1062)

Очаровательный сюжет набрал около 1 млн. просмотров: Бордоский дог усыновил щенка бульдога (ВИДЕО) (847)

Нам очень нужен свой, украинский Моссад - Айдер Муждабаев (761)

Человечество еще не очерствело: рыбка в «инвалидном кресле» растрогала пользователей Сети (ФОТО) (753)

Рейтинг новостей

Нефтяной коллапс: Для экономики России начинается обратный отсчет (6399)

В Киеве бабушек под дождем выгнали «штурмовать» НБУ (ФОТО) (5293)

Метро у Києві може припинити роботу, – Кличко (5266)

Война началась. Портников поянил, зачем Кремлю смерть Вороненкова (4130)

В России рассказали, почему Путин может пойти на оккупацию Беларуси (3678)

Израиль тоже вставил РФ нож в спину, — Der Spiegel (3256)

Бутусов рассказал, кто выманил Вороненкова на встречу (3175)

Я редко видел, чтобы киллер брал с собой служебное удостоверение. Этот – взял (2806)

В Украине стартовали продажи нового iPhone 6 (2653)

"Обыкновенные убийцы": Боровой рассказал, кто и зачем убил Вороненкова (2468)

Что же на самом деле произошло в Балаклее (2325)

В Киеве на станции метро «Левобережная» открыли новый вестибюль (ФОТО) (2212)

В Южной Осетии замаячил новый призрак «кавказской весны»? (2009)

Убийство экс-депутата Госдумы Вороненкова в центре столицы. Появилось видео происшествия (18+) (1986)

Фотошпионы показали новый Nissan X-Trail (1981)



Последние новости «I» в соцсетях

  

Новости партнеров

Загрузка...
Загрузка...
bigmir)net TOP 100

Экономические известия

Ежедневная деловая газета

Украинский бизнес портал

Электронный деловой журнал

Эксперт

Украинский деловой журнал

Статус

Еженедельный деловой журнал