Отдых от GPT

Данная статья - это не описание очередного изобретения или идеи, не пустой текст, сгенерированный чатом гэпэтэ для галочки, а мои размышления на довольно актуальную и волнующую меню тему. Для начала изложу кратко мой профайл в качестве введения, чтобы было понятно, как я дошёл до умозаключений, представленных ниже. Пожалуйста, судите строго, буду рад любому разносу моих идей.

Итак. Родился я в 1979 году. Шучу, шучу, не буду пересказывать свое детство и отрочество, сразу к взрослому возрасту. Мне посчастливилось учиться на невероятной кафедре (ИУ7) невероятного технического ВУЗа (Бауманка) в переломные годы в компьютерных технологиях и сетях (1996-2002). Оглядываясь в прошлое, я ликую, что родился в это время, увлекся программированием и компьютерами. У меня на глазах появлялись новые языки программирования, новые технологии, новые подходы к программированию, новые протоколы, новые операционные системы, появился Интернет и он стал общедоступным. Мне довелось вживую увидеть Билла Гейтса, Стива Возняка - людей, которые творили будущее. Я до сих пор в шоке, что я был знаком, общался и прекрасно помню людей родом из 19! века. Де-вят-над-ца-тый век! Короче я старый и опытный. Работал я всю жизнь в айти, был период деградации, когда я стал заниматься айти бизнесом, но по сути в то время развивался только в довольно ограниченной сфере, но потом я вернулся в струю и стараюсь следить за тендециями и понимать то, что происходит в отрасли и технологиях.

Осенью 2022 года я в авангарде айтишников зарегистрировал на свой иностранный номер телефона аккаунт в OpenAI и познакомился с чатом GPT. Сказать, что я был впечатлён - не сказать ничего. В институте мне преподавали алгоритмические и математические основы искусственного интеллекта и экспертных систем (читал Неземский Валентин Иванович - весьма экстравагантный преподаватель с очень странными примерами и манерой общения со студентами). Из-за особенностей Неземского и ограниченных вычислительных мощностей современных компьютеров реализовать алгоритмы, собрать достаточное количество информации возможности не было, поэтому мы делали примитивные программки, которые иммитировали принятие решений на основе крайне ограниченных данных. Тогда это не казалось чем-то волшебным. А вот чат GPT взорвал мне мозг. Особенно меня впечатлило то, как он научился (на тот момент довольно примитивно, но все же) генерировать программный код. Та версия GPT (по-моему 3.5) умела склеивать программки из разных функций, при этом функции брала как есть. Не меняла названия переменных, ошибалась, тупила но всё же генерировала код.

С момента 2022 года технологии ИИ стали для меня мощным и надёжным инструментом, которым я осознанно пользуюсь каждый день и вижу как он сильно влияет на качество и скорость моей работы. Генеративные модели стали намного доступнее, быстрее и понятнее и теперь огромное количество людей, по крайней мере в моем окружении, начали пользоваться ИИ. И вот тут я начал видеть очень большую проблему.

Внезапно люди, которые ничего не смыслили в дизайне, в технологиях, в медицине, в архитектуре, в программировании, в образовании и в других областях знаний, вдруг почувствовали себя всемогущими специалистами и начали творить. Обыватели вдруг получили доступ к лёгкой информации, которая сама компонуется по мановению волшебной палочки. А информация, которую они получают, в сотни раз лучше той, которую они могли бы сами создать. Мало кто из них задумывается откуда берётся эта информация и как их запросы с грамматическими ошибками, опечатками и слабосформулированными мыслями, превращаются в контент, который превосходит их ожидания. Страшно, что эти люди стали выдавать сгенерированную информацию за свои мысли, стали верить в то, что это придумали и создали они сами. На глазах появляются как грибы после дождя "специалисты", которые начали учить других людей, вести блоги, консультировать, советовать, при этом ни секунды не работая в той области, в которую они внезапно вторглись. Очень многие используют результаты работы генеративных моделей даже не читая тексты, просто поверхностно пробегая по результатам выдачи, похожей на настоящий текст.

На работе приходится чуть ли не каждый день читать технические задания, сгенерированные в чатах, концепции, отчёты, идеи и даже региональные и федеральные нормативные документы. Все документы вокруг вдруг стали обильно пестрить эмдашами (em-dash), академическими терминами, сложными оборотами, при этом "создатели" этого контента даже не понимают смысла этих терминов. Иногда я даже подлавливаю людей, которые показывают свои гениальные презентации, сверкающие новомодными трендовывыми словечками и аббревиатурами, на том, что значения слов из их документов они вовсе и не знают. Эффект Дайнинга-Крюгера засверкал новыми красками, когда стало трудно найти человека, реально разбирающегося в какой-то теме. Китайцы сделали важный шаг, который, полагаю, необходимо будет сделать и в нашей стране - они запретили людям без высшего образования вести блоги и заниматься обучение. По-моему это чудесное решение. А я в свою очередь хочу предложить создателям чата гэпэтэ и других чатов убрать функцию копирования текста - пусть люди используют сгенерированные знания, но не могут их тупо скопировать и перенести в свои файлы, пусть печатают, пусть читают, пусть вникают.

В дополнение к вышеизложенному добавлю - я стал всё больше и больше использовать чат как поисковую систему - сгенерировал ответ на вопрос, прочитал и потом сам полностью пишу документ от корки до корки.

Хочется верить, что умные люди, создающие механизмы ИИ серьезно продумали алгоритмы невключения сгенерированного текста в базы знаний для будущих генеративных моделей иначе я предвижу скорейшую деградацию будущих моделей, результаты деятельности которых будут основаны на сгенерированных и непроверенных текстах.

з.ы. При написании этого текста не использовалось никаких механизмов генерации текста, проверки грамматики и т.п. Чистый аштиэмэль (html).