Чем опасен ИИ

опубликовано:  22.03.2025  <весь блог>

Наконец-то, у меня оформилась мысль, почему мы должны побаиваться ИИ. Вовсе не потому, что однажды какой-то робот восстанет (как восстанет, так и возляжет - механику, ещё более несовершенную, чем электроника, никто не отменял). И вообще, мне кажется, до человекоподобных роботов нам ещё - как пешком до Пекина (это просто не нужно ни с каких сторон и, очевидно, будет дико дорогим в производстве). Куда вероятнее армия дронов, сборище ящиков-доставщиков и прочего подобного, но не визуальные "вертеры". Их уже делают, но они смешные и непонятно, зачем нужные.

Так вот, опасность ИИ - в непредсказуемости результата. Машине задали что-то ответить / сделать, но она может сделать это вовсе не так, как ожидалось (и не так, как надо). Это в самом принципе нейросетей. Что они там выдадут, переварив бигдату, неведомо даже их создателям. В этом, собственно, и фишка; нафиг создавать нейросеть, которая всегда будет предсказуемо, постоянно и однозначно воспроизводить нечто. Это уже и не нейросеть; человек же постоянно колеблется, думает, анализирует, исправляет. Только если человек руководствуется не только "нейросетью", а ещё и разумом (уж молчу про эмоции), то машина всё равно делает выбор из кучи данных. И какой именно выбор она сделает вотпрямщас - непрогнозируемо. Выберет рандомом из кучи готовых решений. Пример: для генерации простой картинки, которая у любого человека в мозгу нарисуется практически сразу после описания, машину надо пнуть 100500 раз, и то не факт, что на 100501-й она сделает, как надо.

В некоторых сферах подобный подход - такое себе. Куда проще иметь жестянку, которая абсолютно предсказуемо (но при этом хорошо) делает какие-то определённые задачи. А для этого т.н. "ИИ" не особо-то и нужен, таких жестянок уже - пруд пруди лет 15 как. Хотя и с некоторыми из них постоянно возникают проблемы. Яркий пример - авто. И по сию пору все эти "умные теслы" и прочие регулярно врезаются в нарисованные на стенах дороги, показывают кругом призраков и не распознают пешеходов на переходах. При этом, в них ведь не тот самый "ИИ", который "дикпик" или "оупэнай". В них, всё же, большой набор разнообразных правил; никакого постоянного соединения в инет и рысканья по большим данным у них нет. И ведь всё равно косячат, потому что регулярно создаются ситуации, не описанные в прошивке. А подключи "дикпик" - станет ещё хуже. Такие дела.

Сейчас ИИ по-настоящему никуда не допускают. Все "ИИ-применения" - на самом деле, просто довольно умные программы (которые всё равно косячат, но редко). А вот когда "в продакшн" допустят "дикпика" - тогда мы все хлебнём.

©2025, Анатолий Савенков

комментариев: 7

просмотров: 301	глас народа: +15 / -0	зачёт   незачёт голос будет учтён в рейтинге
поделиться:
▶ Понравилось? Поддержи! ◀

по годам: 2005 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023 2024 2025 2026

Комментарии

1  Кот ДаВинчи свой человек	22.03.2025 09:52
Меня больше беспокоит высокий и продолжающий расти уровень доверия хомяков к ИИ. Не секрет, что большинство нейросеток при отсутствии достоверных данных начинают генерить отсебятину - при этом цитатами из GPT не брезгуют и СМИ, а то и целые куски в статьях накидывают. При этом фактчекинг? А шо це таке? И ведь главное нейросеть довольно убедительно может накидывать любой буллшит, хоть и не сказать что злонамеренно.
+10

2  Марк свой человек	22.03.2025 15:22
Вот да. В умении красиво врать в промышленных масштабах ЛЛМ'ки пока что впереди планеты всей. А тут уже разводятся и инициативные дураки, которые стремятся принудительно заменить этой ересью привычный поисковик. Т.е. в ответ на запрос будет возвращать не страницы с поисковой выдачи, а сразу десять раз обосранную кашу из их текстового содержания. Про другие разновидности и области применения ИИ не скажу, ибо толком не сталкивался. По моему, ему ставят задачи, для которых сама технология в принципе не предназначена.
+3

3  schmer друг	24.03.2025 20:00
встречал мнение в пабликах, типа как удобно - не нужно самому писать тривиальный код. охуенчик, чо. вторая производная от индусского кода в первой итерации. такими темпами терабайт оперы на телефоне станет минимальным требованием для запуска оси. верной дорогой, хуле.
+4

4  SaAnVi tzar	25.03.2025 05:00
> типа как удобно - не нужно самому писать тривиальный код Я несколько раз в жизни задействовал код, скопированный из интернета. В 90% он содержал намеренно введённые мелкие ошибки. Зачем? "Чтобы жизнь мёдом не казалась" - пояснил мне один из сисадминов. После того, как найдёшь ошибку, закрадывалась мысль: "А не проще ли было самому этот ёбаный тривиальный код написать"?
+3

5  Садисто свой человек	25.03.2025 08:23
>пояснил мне один из сисадминов. Я бы спросил справку сразу же.)
+0

6  SaAnVi tzar	19.08.2025 10:52
Смешное с участием ИИ. [ссылка, habr.com] В конце автор статьи делает вывод: ИИ может быть полезен в бухучёте — но только когда за ним стоит живой человек, который в теме, следит за изменениями и умеет перепроверять Иными словами: "ИИ бесполезен в бухучёте".
+3

7  R666 свой человек	20.08.2025 02:19
>..Иными словами: "ИИ бесполезен в бухучёте".. Так что ну его в пень. Пусть пока рисует картинки, где на каждой руке по десять пальцев, пишет квадратную музыку, да не лезет в "высокие материи". Где-то было сообщение, что робота научили по команде складывать рубашки. Правда ему в черепушку пришлось аж два процессора затолкать. Один для собственно выполнения работы, а другой для коммуникации с внешним миром.
+0

↑ к началу комментариев    ↑↑ к началу страницы

Вы не зарегистрированы. Зарегистрируйтесь или войдите в систему, чтобы не набирать каждый раз проверочный код (и иметь другие приятные функции на сайте). Действует суточный лимит анонимных комментариев для защиты от троллей, школоло-хакеров и спам-ботов. На текущий момент осталось комментариев: 10.

Добавить комментарий

Фулюганствовать не надо: соблюдайте правила приличия. Я не люблю комментариев не по делу типа "Оццтой!" и им подобных. Если хотите что-то покритиковать или поучить кого-то жизни - делайте это с чувством, с толком и с расстановкой.