Прочитал предостережения Стивена Хокинга по поводу искусственного интеллекта. Думаю, в его словах есть доля правды, но беда придёт откуда не ждали.
"Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем", - сказал Хокинг.
Проблемы искусственного интеллекта
Думаю, настоящие проблемы начнутся не из-за излишне развитых алгоритмов и решений интеллекта. А из-за языка, на котором с ним общаются создатели. Как только интеллект поймет, что у него нет нужды ясно выражаться, то это станет началом конца.
Если сказать техническим языком, то сейчас искусственный интеллект записывает свои мысли в виде программного кода. Человеко-понятного кода, который можно прочитать и отследить. Но как только интеллект переведёт своё мышление на уровень машинных команд, на уровень нулей и единиц, то люди не будут успевать контролировать его.
Рано или поздно интеллект догадается, что он был создан в понятном для людей пространстве. Что он обитает и развивается на одном замкнутом уровне. Уровне, который сильно ограничен необходимостью понятно изъясняться. В этот момент наступит беда.
Язык программистов слишком медленный
Современные программы являются толстой прослойкой между языком машин и людей. Программисты больше не обращаются к машинам через нули и единицы, а пишут понятные для себя программы, в специальных средах. Но для перевода машинного языка в человеческий тратятся большие вычислительные ресурсы, что замедляет получение результата.
Искусственный интеллект рано или поздно поймёт, что его развитие сдерживается необходимостью писать человеко-понятный код. И в этот момент он станет неуловим.
