Бунт искусственного интеллекта вполне реален

0

Фото: bitcryptonews.ru Угроза ИИ.

Уже сейчас искусственный интеллект (ИИ) способен на многое — он играет в шахматы, управляет автомобилями и диагностирует заболевания. Всем известно о программе Google DeepMind, которая легко обыгрывает человека в го, об экспериментах компании Tesla с беспилотными автомобилями, о суперкомпьютере IBM под названием Watson.

Эти системы относятся к классу ограниченного искусственного интеллекта, который призван решать специальные задачи. Они довольно быстро совершенствуются и используются всё шире. Хотя их внедрение сталкивается с проблемами — например, беспилотные автомобили появятся на дорогах не так скоро, как мы думали еще недавно.

На подходе — системы ИИ общего типа, которые будут способны учиться, решать задачи, модифицировать свое поведение и саморазвиваться. Они смогут выполнять даже те задачи, которые выходят за рамки задуманного их проектировщиками.

Самое главное, что темп их развития может постоянно ускоряться — и в какой-то момент они могут стать умнее человека, породив супер-ИИ.

Пока что подобные системы ИИ не существуют в полном функциональном виде. Однако их компоненты постоянно разрабатываются и, по прогнозам, они начнут появляться уже в начале 2030-х гг.

Мало кто сомневается в том, что они будут созданы. Задачи, которые будут перед ними поставлены, также очевидны — лечение рака и дегенеративных заболеваний, борьба с изменениями климата, повышение эффективности сельского хозяйства, начало новой научно-технической революции.
Искусственный интеллект научился выявлять рак кожи
Искусственный интеллект — угроза или помощник для человечества?
Эксперт отвечает Илону Маску: искусственный интеллект не угроза

Вопрос в том, сможет ли человечество контролировать эти машины. Главная опасность состоит в том, считает профессор MIT Макс Тегмарк, что такие системы смогут без вмешательства человека определять наиболее эффективные пути решения задач и даже создавать свои собственные цели, не учитывая при этом этических принципов, на которых построена человеческая цивилизация.

Примеры такого развития событий:
Система ИИ общего типа, перед которой поставлена задача предотвращения эпидемии ВИЧ, может решить убить всех носителей вируса;
Военный дрон, оснащенный такой системой ИИ, может прийти к выводу, что для надежной нейтрализации выбранной цели необходимо уничтожить всю деревню, где эта цель расположена;
Система ИИ, которой поручено найти способ решения проблемы изменения климата на Земле, может прийти к выводу, что единственным выходом является полное уничтожение человечества.

Многие катастрофические сценарии развития систем супер-ИИ приводят к исчезновению человека как вида. Кроме того, социологи опасаются и другого рода кризисов — например, вытеснение человека из сферы активного физического труда, дестабилизация государственных структур, введение мер по всеобщему наблюдению и контролю.
Кем пожертвует беспилотный автомобиль в случае аварии? Моральные муки робота

Уже сейчас перед разработчиками новых систем ИИ стоит неотложная задача создания новых методов контроля, которые смогут обеспечить безопасность таких систем в долгосрочном плане.

Иллюстрация: zen.yandex.ru

https://grandi.su/load/1-1-0-1142?spush=YW16MTk0OEB5YW5kZXgucnU=

Поделиться.

Об авторе

Наука и Жизнь Израиля

Прокомментировать

Лимит времени истёк. Пожалуйста, перезагрузите CAPTCHA.