Напечатать документ Послать нам письмо Сохранить документ Форумы сайта Вернуться к предыдущей
АКАДЕМИЯ ТРИНИТАРИЗМА На главную страницу
Дискуссии - Наука

Никитин А.В.
Когда начинать бояться ИИ? Часть 4. На перепутье….

Oб авторе

Оглавление

ЧТО ПРЕДСТАВЛЯЕТ СОБОЙ СОЗДАВАЕМЫЙ ИИ

МОЖЕТ БЫТЬ ОТСЮДА И НАЧНЕМ...

К ЛОКАЛИЗАЦИИ ИИ?

ДУМАТЬ ИЛИ ВЫЧИСЛЯТЬ?

ИИ В ГЛОБАЛЬНОМ ТУПИКЕ РАЗВИТИЯ

ЛИТЕРАТУРА


Человеческое общество в общем случае развивается спонтанно. Туда, где открывается очередная тропинка. Идет в эту сторону прогрессивного развития до тех пор, пока не упирается в стену. После этого начинается поиск выхода уже из этого тупика по очередной найденной тропинке.

Всё технологическое развитие человеческого общества идет от одного тупика к другому. Потому ученые и прислушиваются в футурологам, нащупывающим возможные пути дальнейшего движения на основе экстраполяции и своего умения видеть то, что другим пока не видно.

Уж кого-кого, а ученых нельзя отнести к тем, кто не понимает, куда он идет. Конечно, ученые понимают, что взятое когда-то направление движения развития ИИ сегодня уже почти пришло в очередной тупик. Технический, технологический, философский, наконец. Раньше, в прошлом веке это понимали единицы, сегодня это понимают уже многие ученые.

Но понимать, не значит указать свой путь. Проблема как раз в том, что пока нового пути не видно. И наука снова и снова возвращается к философским аспектам понимания машинного интеллекта.

Проблема тут старая, вековая… Чтобы находить правильные ответы, надо задавать правильные вопросы.

А вот с этим у нас всегда проблемы.


Что представляет собой создаваемый ИИ.

Сегодня теории ИИ нет.

Это можно понять, просто сравнив классификации естественного и искусственного интеллектов. Когда разговор в основном идет об интеллекте человека, то количество психологических систем и теорий интеллекта весьма широко и разнообразно [1]. Здесь можно найти психометрические теории интеллекта, иерархические теории, когнитивные теории, теорию множественного интеллекта, теорию тройственного интеллекта, есть и гештальт-психологическая теория интеллекта, этологическая теория интеллекта, операциональная теория интеллекта, структурно-уровневая теория интеллекта…

В теории искусственного интеллекта ничего этого нет.

Здесь ученые считают для себя достаточным два основных деления интеллекта на «слабый» и «сильный», а так же на «узкий» и «широкий».

Например, вот:

«…гипотеза в философии искусственного интеллекта, согласно которой некоторые формы искусственного интеллекта могут действительно обосновывать и решать проблемы.

  • теория сильного искусственного интеллекта предполагает, что компьютеры могут приобрести способность мыслить и осознавать себя как отдельную личность (в частности, понимать собственные мысли), хотя и не обязательно, что их мыслительный процесс будет подобен человеческому.
  • теория слабого искусственного интеллекта отвергает такую возможность.» https://ru.wikipedia.org/?curid=688800&oldid=128332288

Если ИИ решает задачи с применением оптимальных решений, то это «слабый» ИИ, если он осознает себя личностью и мыслит подобно человеку, то «сильный», хотя, как это понимать, похоже никто не знает…

И потому, основные работы по разработке новых систем ИИ ведется в областях «узкого» и «слабого» ИИ, т.е. в прикладных задачах применения ИИ во всех отраслях хозяйства.

«Недавно такие ученые, как Антонио Лието утверждали, что текущие исследования как ИИ, так и когнитивного моделирования идеально согласуются с гипотезой слабого ИИ (которую не следует путать с различием между «общим» ИИ и «узким» ИИ) и что популярное предположение о том, что когнитивные системы искусственного интеллекта являются частью Сильный ИИ ошибочен и проблематичен, потому что «искусственные модели мозга и разума можно использовать для понимания психических явлений, не претендуя на то, чтобы быть реальными явлениями, которые они моделируют» https://ru.wikipedia.org/?curid=688800&oldid=128332288


Для понимания еще одна цитата:

«Здесь следует провести еще одно различие - различие между системами ИИ, предназначенными для решения конкретных задач (часто называемых “узким ИИ”), и теми немногими системами, которые предназначены для способности рассуждать в целом (называемыми “общим ИИ”).). Люди иногда путаются в этом различии и, следовательно, ошибочно интерпретируют конкретные результаты в определенной области как каким-то образом охватывающие все интеллектуальное поведение.» Крис Хаммонд Что такое искусственный интеллект (ИИ) и в чем разница между общим ИИ и узким ИИ? https://translated.turbopages.org/proxy_u/en-ru.ru.521fa8fa-63fb6014-5ec38926-74722d776562/https/www.computerworld.com/article/2906336/what-is-artificial-intelligence.html


И опять, всё различие в соотнесении с человеческим интеллектом.

Если ИИ решает специализированные задачи, то это «узкий» ИИ, если он для широкого класса задач, то вроде бы «широкий», например, стратегия поведения в конкретных условиях. Как-то так.

Пока же разработчики систем ИИ никак не используют никаких вариаций систематизации уровня ИИ своих разработок. С одной стороны их нет, а с другой они никому не нужны. Сам факт принадлежности разработки к «ИИ» уже создает нужный ореол «умности».

Но, получилось так, что…

Разработанный человеком на основе математических методов обработки информации программный комплекс ИИ стал потенциально опасен для человека с момента своего рождения.

Потому, что он исходно основан на вирусных технологиях активизации реакции программы на действия человека. Такой ИИ никогда не будет «дружественным» человеческому интеллекту и требует введения постоянного контроля и ограничения действий ещё на стадии разработки.

И, как мне кажется, именно по этой причине ученые сразу отказались от применения философских методов познания на этом направлении, заменив их простыми техническими обобщениями. То, что это создал человек, не дает никаких гарантий дружественности создаваемого на этой основе искусственного интеллекта. Скорее наоборот, математическая основа определяет исходную невозможность создания «дружественного» интеллекта на этих принципах и логике.

Понимают это ученые?

Конечно.

Сегодня человек уже выбрал свой вектор развития, который не совпадает с общим направлением развития биологических организмов. Он выбрал математику, как основу развития машинных способов обработки информации. Эта основа влияет и уже всегда будет влиять на весь процесс развития машинного интеллекта.

Система современной математики постепенно переходит от действий с существующими в этот момент числовыми величинами и операндами к целевому алгоритму достижения заданного результата. Задача начинает решаться от предполагаемого результата к исходным данным через построение программы моделирования пути решения. При этом, математика стала быстро обзаводиться все новыми и новыми расширениями пониманий, переходя от строгой математической системы к логической, часто совсем не обоснованной, а очевидно привычной, алгоритмической.

Посмотрите статьи Владимира Арнольда. Там нет привычной математики, это уже что-то другое… Он вообще считает, что физика, как и математика, это часть одной большой науки, которую надо так и изучать, всю сразу, а не по частям.

И похоже, он очень прав…

«В. И. Арнольд являлся известным критиком существовавших в середине XX века попыток создать замкнутое изложение математики в строгой аксиоматической форме с высоким уровнем абстракции. Он был глубоко убеждён, что этот подход — известный в основном благодаря активности французской школы Николя Бурбаки — оказал негативное влияние на преподавание математики сначала во Франции, а затем и в других странах.» https://ru.wikipedia.org/?curid=256172&oldid=129639101


Ученые используют в своей модели машинного интеллекта нечеткую логику Л.Заде для формулирования задач обоснования выбора изменения пути к цели при изменении условий её достижения. Сегодня успешно решены проблемы выбора невозвратных решений с применением математической теории катастроф. Машинное моделирование развития ситуации с применением систем самоорганизованной критичности стало новым шагом на этом сложном пути.

Наука сегодня реально создала машинный интеллект, как систему комбинаторного анализа и выбора решений, входящую составной частью в комплекс машинных вычислений.

Мы построили основание машинной системы обработки информации, которое не совпадает с нашими логическими принципами достижения результата и выработки управляющих решений. Это другая логика, другие способы достижения результата, другие основания для выбора пути решения проблем.

Вычислительные способности машины уже давно никого не удивляют. К этому привыкли относиться как к нормальности нашего времени. Так и должно быть. А следом должна появиться и машина «разумная». В этом никто давно уже не сомневается.

Именно на эту «разумную» машину и рассчитаны все книги и статьи о «войне машин», «противостоянии человека и машинного разума», и т.д., и т.п.

Но, во всей этой богатой россыпи самых разнообразных «пугалочек с завлекалочками» оказался совершенно непонятным один вопрос...

Что мы хотим от ИИ, если мы не понимаем, что создаем?

С одной стороны «идеей фикс» (франц. idee fixe) у разработчиков ИИ с самого начала является «супер интеллект» в любом его исполнении.

Исторически, главным путем реализации «машинного разума» была задача построить какую-то логическую машину, работающую на человеческой логике, которая и обеспечит разумность действий машины. Идея логической машины умерла в конце прошлого века вместе с окончательным крахом попыток построения символьного ИИ на основе специальных языков высокого уровня.

Но, попытки закончились, а память о них жива.

Сегодня большая часть ученых и обывателей, не знающих «как там всё устроено», продолжают существовать в той же парадигме понимания ИИ, что и полвека назад. Философы продолжают исправно писать книги по этим проблемам, раз за разом обсуждая одни и те же почти несуществующие сегодня «страхи» перед несуществующим «супер ИИ» или призывая не верить в эти сказки про ИИ.

Уже возникла версия, что ИИ, это просто очередной миф, как когда-то были мифы про «супер» воина, танк, оружие, и чего только не было. Или что ИИ, это «игрушка» для науки, которая возникла из ничего и скоро уйдет в никуда.

Среди всего, что сегодня причисляют к мифам есть и приставка «нейро», указывающая на родство электронной схемы с нейроструктурами человеческого мозга. И надо сказать, в общем это предположение верно. Приставка «нейро» есть, а реального соответствия пока нет, есть желание, чтобы такое соответствие когда-нибудь было. Но желаний у нас много, а вот их реализация всегда несколько затягивается…

Так может и правда, нет никакого ИИ, есть только сказка о нем?

ИИ есть и это не сказка.

Просто ученые не хотят разбирать и как-то систематизировать, создаваемую ими кучу разработок, под общим названием - ИИ.

Не хотят. По многим причинам.

Одна из главных, это статус «ИИ». Он дает возможность добиваться нужных объемов финансирования работ своего направления. Ведь тут только начни систематизировать и классифицировать, сразу начнется и контроль за этим процессом, выявление самых эффективных вложений и скорость отдачи от реализации разработки. Ученым это не очень нужно, лучше уж получать средства, а классифицировать, это потом, когда перейдем к новой теме…

Вторая причина, это реальная несостоятельность любой классификации разработок ИИ по их соответствию «интеллектуальным» и «автоматическим». Мы сегодня не знаем, где кончаются «просто» автоматы и начинаются «интеллектуальные» машины, автоматы, или что там, не знаю…

Третья причина, полное отсутствие понимания цели в направлении развития ИИ. Куда мы идем? Идея «машинного разума» сегодня уже не находит так много сторонников как раньше, а парадигма развития «супер ИИ» на базе суперкомпьютера зашла в философский, технологический и технический тупик.

Показанная ранее научная или техническая систематизация ИИ, работающая уже полвека, себя изживает. С появлением мобильной связи, интернет и система серверных узлов практически увязала почти все уровни машинной реализации элементов ИИ в одну большую сеть, работающую в режиме суперкоммутатора.

Философская концепция «дружественного» ИИ, реализуемая на этих принципах никуда не ведет.

Созданный человеком ИИ вышел на поле выбора. Это даже не сам выбор, как поиск понимания того, что и зачем мы создаем в этой области знаний…


Полный текст доступен в формате PDF (765Кб)


Никитин А.В., Когда начинать бояться ИИ? Часть 4. На перепутье…. // «Академия Тринитаризма», М., Эл № 77-6567, публ.28486, 28.05.2023

[Обсуждение на форуме «Публицистика»]

В начало документа

© Академия Тринитаризма
info@trinitas.ru