Нд, 06 квітня 2025
U-News » Про все » "Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Всі новини

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ? написал знаменитый физик, ? на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ? написал Хокинг, ? вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ? ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ? появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».
Читай U-News в Google News

Читають Коментують
Підвищений холестерин. Декілька натуральних способів очистити судини
32 002
Принизили, зарахувавши Козловського в бригаду НГУ: Кондратюк розповів про ганьбу зі співаком
23 097
Канадка знатно осоромилася, кидаючи букет нареченої
22 433
Дружина спіймала чоловіка на зраді завдяки його бажанню отримати знижку при покупках
19 776
Жінка несподівано почала роздягатися в аеропорту перед посадкою в літак
17 394
60-річний мер надіслав відео своєї мастурбації не туди, куди планував: подробиці курйозу
14 856
Частину пенсіонерів звільнили від сплати за комунальні послуги: кого це стосується
14 839
Симптоми утворення тромбів і продукти, що захищають від них
13 388
Не втримав рівновагу: під час обітниці біля вівтаря на молодят впав щур
12 966
Медики назвали найпотужніший природний антибіотик
11 801
Названо три знаки зодіаку, які мають найсильнішу інтуїцію: вони знають багато чого
11 350
Схоже на "Титанік": пасажири круїзного лайнера показали 12-метрові хвилі
11 288
Туалет на вулиці та подача води відром: у Києві здають в оренду цікавий "таунхаус"
10 698
Лікар перерахувала продукти, від яких краще відмовитися після 50 років
3
Комунальники зробили дивну розмітку для боротьби з порушниками дорожнього руху
0
Шість чоловічих комплексів, на які жінки не звертають уваги
0
Свіжовичавлені соки наближають до смерті так само швидко, як газована вода
0
Чому потрібно перестати бути рятувальником всіх навколо і почати помічати себе в житті
0
Померла зірка фільму "За двома зайцями" Таїсія Литвиненко
0
Що треба знати про держак лопати: буде корисно кожному господарю
0
Колишній чоловік Ірини Білик показав їхнє фото з молодості та публічно звернувся до неї
0
Нешкідливі на перший погляд симптоми, які вказують на смертельні патології
0
Гороскоп на 7 квітня для всіх знаків зодіаку: день, коли можна знайти відповіді на багато важливих запитань
0
Комунальники попередили: показники лічильників не прийматимуться без виконання обовʼязкової умови
0
Олена Тополя розповіла, як її "кинули" на 450 тисяч доларів після участі в Євробаченні
0
Матір залишила телефон без нагляду і лише через місяці дізналася, що накоїли діти
0
Кілька ознак, які викажуть, що партнерові потрібні від вас лише інтимні стосунки

Здається, що ось, нарешті, він знайдений — “той самий” ...

Які помилки матерів у вихованні хлопчиків є найбільш критичними і поширеними

Помилки виховання синів, які часто допускають матері, ...

УЗД молочних залоз: сучасний метод діагностики в центрах СДС

  Що таке УЗД молочних залоз і навіщо воно ...