Напечатать документ Послать нам письмо Сохранить документ Форумы сайта Вернуться к предыдущей
АКАДЕМИЯ ТРИНИТАРИЗМА На главную страницу
Дискуссии - Наука

Никитин А.В.
Когда начинать бояться ИИ? Часть 1. Главное – чтобы костюмчик сидел!

Oб авторе

 

Оглавление

ПРОБЛЕМА КОНЕЧНОГО ПОТРЕБИТЕЛЯ

ГЛОБАЛЬНОЕ УПРАВЛЕНИЕ ОБЩЕСТВОМ.

А ВАСЬКА СЛУШАЕТ ДА ЕСТ…

МОЖЕТ, НУ ЕГО, ЭТОТ ИИ?

ЛИТЕРАТУРА:


Чего мы боимся?

Ой, страхов по поводу ИИ у человека много…

Так много, что кажется, от одного упоминания про какой-нибудь очередной Супер ИИ уже можно заворачиваться в саван, бежать на ближайшее кладбище, искать себе там место и сразу закапываться …

Писатели и философы постарались на славу. Все эти «войны машин», «взбесившийся Супемозг», «полное уничтожение людей как результат развития ИИ»… сценариев полным полно.

Но самое интересное во всех этих сценариях, во всех этих книгах то, что пишутся-то они про ИИ, а на выходе получается… человек. Со всеми своими страхами, неуверенностями, ожиданиями и …фактическими результатами.

Философы, пишущие о проблемах Супер ИИ почти всегда используют один и тот же прием. Если завтра мы построим Супер ИИ, и он окажется умнее человека, то он непременно захочет сделать с человеком то, что человек хочет сделать со слишком умной машиной. Подавить и уничтожить.

Сценарии разные, но смысл их один - такая машина опасна и с этим надо что-то делать! Нам это внушают очень уважаемые писатели и философы уже более полувека. Из раза в раз, из книги в книгу… одна и та же версия. Хорошо отработанная и отшлифованная.

Вот стороны, вот конфликт сторон, вот его возможные решения…, но еще лучше - не допускать конфликта. Этот интеллект надо уничтожить, а далее строить только дружественный, с соблюдением законов.

И жить-поживать дальше…

Таких книг вполне известных философов по ИИ много. Для примера загляните в статью Б.В.Бирюкова в послесловии книге Х.Дрейфуса [1].

А наши страхи вообще имеют под собой реальную почву или они по большей части надуманы?

Надо разобраться, где проблемы реальные, а где не очень…

 

Проблема конечного потребителя.

На самом деле это огромная проблема каждого потребителя товаров и услуг. Потому, что в конечном итоге он сам отвечает за всё. Он должен знать, что он покупает, состав и отличия от других аналогов, что ему грозит, если что-то пойдет не так, и пр., и пр. Это в полной мере касается и услуг современного сервиса на основе сетевого ИИ, через его смартфон или компьютер.

Ах, смартфоны вдруг начали взрываться при зарядке батареи, ну да, разработчики батарей не досмотрели, исправим…, а батареи всё взрываются и взрываются, смартфоны горят и горят. Ах, миллионы данных пользователей из защищенного всеми защитами банка опять утекли в интернет. Да-да, конечно исправим, …а данные как уходили в интернет, так и уходят. Новая программа будет работать в десятки раз быстрее старой…, ну на треть точно, …даже не знаем, как так получилось, конечно исправим… потом…

Какая красивая эта смарт-колонка «Нэо»! Дети в восторге, папа командует: - «Маруся», включи пылесос, получи почту…

А в сельском доме, в маленьком городке, где интернет не всегда бывает…, «Маруся» всё будет делать вот так же, просто и непринужденно? Нет? А почему? Ах, для этого ещё нужен «умный дом» и хороший интернет…

Вот в чем дело…

И тут же, с другой стороны…

Легким движением руки, просто по телефонному звонку вы можете купить и продать вашу квартиру, даже не обращаясь к риелторам! …И одинокие пенсионеры вдруг стали массово лишаться своего единственного жилья.

Потом включается «магазин на диване» и другие «лавки чудес». Особенно хороши кредитные карты. Почти «за так», совсем даром, услуг – вагон, бери всё, что душе угодно сейчас, зачем ждать зарплаты…

А дальше совсем чудеса…

Банк или сразу коллекторы прислали уведомление, что на вас открыт кредит, выданный по копии паспорта, вы должны банку кругленькую сумму. И теперь это ваша проблема. Надо бегать по судам и доказывать, что вы этого не делали. Лишь недавно законодатели обратили внимание на то как банки выдают кредиты направо и налево, не требуя от заемщика реальных документов. Банкиры очень удивились, что скоро в ответе за это будут они, а не вы.

…Это так легко и просто все свои карточки и даже паспорт держать в электронном виде в смартфоне. Все оплаты в одно касание, цифровизация должна быть удобной! Но если смартфон украли или он вдруг потерялся…, проблем вдруг наворачивается не просто ком, а огромный камнепад, который заваливает потребителя с головой. Вот тогда он понимает, как это неправильно – складывать все яйца в одну корзину.

Как-то всё время получается, что цифровизация поворачивается своей лучшей стороной к банкам и корпорациям, а к потребителям почти всегда … тылом. Все успехи ИИ потребитель услуг видит только на экране своего телевизора, а в реальности одни проблемы цифровизации накладываются на другие.

Получается странная картина.

Реально умного ИИ ещё нет, а проблемы взаимодействия с ним уже есть.

Теперь просто читаем…

«Игорь Ашманов: Умная нейросеть – это бредогенератор нового поколения, но очень гладкий и изощренный. С одной стороны, это гигантский прорыв в технологиях генерации текстов и картинок. С другой – искусственный интеллект имеет свойство ухудшать все, до чего он дотрагивается. Он воспитывает в людях так называемую невзыскательность – привычку к низкому качеству. Например, машинный перевод, а также боты для общения с клиентами банков или мобильных операторов давно упростили работу многим организациям, поскольку им теперь не нужно нанимать огромное количество сотрудников для проделывания такой работы.

Однако тексты, переведенные компьютером, оказываются весьма топорными, а общение с ботом становится проблемой для клиентов. Бот по своей сути занимается лишь тем, что отгоняет клиента и экономит деньги контакт-центра, для чего старается не пропускать человека к живому оператору для решения его проблемы. 

ВЗГЛЯД: Параллельно с этим высказываются опасения о том, что боты ChatGPT и GPT-4 могут создавать фейки. Так ли это? 

И. А.: Такие нейросети, как ChatGPT и GPT-4, обучаются на гигантских объемах данных и уже выдают читабельные тексты, хорошие картинки, будто их создал реальный человек. В связи с этим вскоре мы столкнемся с ситуацией, когда через ChatGPT, GPT-4 будут создаваться различные фейки, фальсифицированные документы, видео и фото, которые будет очень непросто отличить от оригинала.

ВЗГЛЯД: Какие вы видите угрозы с распространением умных нейросетей?

И. А.: Я думаю, государства начнут использовать генеративные сети для пропаганды. Скорее всего, их могут начать применять и при ведении боевых действий, например, для голосового управления дронами. Кроме того, они могут использоваться мошенниками для вымогания денежных средств у обычных людей. Технологии развились настолько, что мошенники смогут автоматически генерировать готовые тексты для вымогательства личной информации у потенциальной жертвы.» «Нейросети станут изощренными вымогателями» https://vz.ru/society/2023/3/29/1205108.html


Вам это кажется шуткой?


Полный текст доступен в формате PDF (691Кб)


Никитин А.В., Когда начинать бояться ИИ? Часть 1. Главное – чтобы костюмчик сидел! // «Академия Тринитаризма», М., Эл № 77-6567, публ.28443, 27.04.2023

[Обсуждение на форуме «Публицистика»]

В начало документа

© Академия Тринитаризма
info@trinitas.ru