Нейронные сети: качество подбора информации, невидимая опасность

Автор: Лукашин Никита Сергеевич

Организация: МБОУ «Сурская СШ №2»

Населенный пункт: Архангельская область, с. Сура

В современном мире одним из ключевых факторов успешности в жизни становится своевременный поиск и анализ достоверной и полной информации. В образовательной среде этот фактор стал неотъемлемой частью ежедневного труда. Если вы учитель истории и обществознания, вам необходимо знать точное и полное событие современности, чтобы интерпретировать учащимся с точки зрения возможных последствий, если заняты преподаванием технических дисциплин, например, физики, тогда вы должны быть в курсе открытий, основанных на новых физических принципах, на прорывах в уже изведанном научном направлении. Любой педагог понимает ценность информации. Что говорить об учащихся? Сейчас средства сбора и анализа информации уже обладают невероятной мощностью, которая за доли секунды позволяет решить сложную задачу (контрольная, олимпиада, да и просто домашнее задание), выдать сочинение на заданную тему, аргументировать мнение, решить практически любую задачу уровня подготовки современного школьника.

Поэтому, актуальность анализа работы нейронных сетей, на мой взгляд, не подвергается сомнению. К тому же, важность и ответственность использования результатов данного анализа с каждым днем становится выше. К примеру, нейросеть некоторой поисковой системы может перепутать условия произрастания кофе и какао, сведя их в таблицу (к удивлению, этот ответ был впоследствии изменен). К тому же, каждая нейросеть по-своему отвечает на понятия высокогорья (одни пишут – 1000-2000м, другие – около 600, выше или ниже), что может ввести в заблуждение учащегося, который ищет быстрое решение и однозначно доверяет первому попавшемуся ответу.

У меня был опыт создания презентации по ОБЗР на тему «Вооруженные силы РФ – защита нашего Отечества» с помощью одной из известных нейронных сетей. В результате я получил презентацию, где отсутствует историческая связь и преемственность РФ и СССР, презентацию с героями в форме стран НАТО, нелепую цитату А.В. Суворова: «Вооружение – это искусство защищать», которая не является прямой выдержкой из речи полководца. Данный факт, к слову, при написании итогового сочинения или на ЕГЭ может являться смысловой ошибкой, если он таким образом усвоен ответственным учащимся, который пытается осмыслить изучаемый предмет, но не проверил полностью содержание. К слову, сейчас подобную презентацию выполнить уже не получается в той же сети, однако она существует в версии сохраненных чатов. Это означает, что ведется доработка и применяется административный ресурс для поиска подобных угроз.

При подготовке к докладу по теме «Активная речевая позиция в пении» я задался задачей проиллюстрировать в одной из бесплатных нейросетей свою презентацию. Однако, я был удивлен однообразием персонажей, которые используют данную методику. Усложнение промт-запроса не приводит к изменению результата: картинка одна и та же.

Иллюстрации по заданной теме без особой конкретики вообще не соответствовали ни идее, ни тексту на странице. Получается, качество контента, который предоставляет ресурс сети Интернет с помощью нейронных сетей не обеспечивает точными, полными достоверными данными, не способствует развитию воображения пользователя данного ресурса. В итоге, если рассмотреть быстрое и бездумное использование ресурсов искусственного интеллекта, это вносит в образовательный процесс путаницу, фальшивые знания, упрощает понятийный аппарат пользователя.

Возникает вопрос: как быть родителю, учителю, да и самому учащемуся, который хочет получить полную и достоверную информацию по выбранному предмету? На мой взгляд, вариантов для работы здесь не так много. Однозначно одно: необходимо взвешенное отношение родителя к современным способам обработки информации. Я как учитель стараюсь показать все наиболее слабые стороны данного метода обучения (вернее – его имитации) и разъясняю возможные последствия. Разумеется, в задачах по физике очевидна подмена величин (обозначений) со школьных на величины, изучаемые в следующем звене. Средства ИИ не всегда могут воспринять данный запрос и выдать ответ, соответствующий уровню подготовки школьника на данном этапе обучения. Это дает мне возможность обратить внимание на этот факт и выполнить простую проверку семантического восприятия, написанного в тетради или на доске. Однако, мы знаем, нейронные сети обучаемы и способны преодолеть и этот рубеж. Но на данном этапе взрослые должны (непременно, должны) вкладывать максимальную озабоченность и собственную энергию в организацию процесса обучения без этих вспомогательных техник. Есть очень важное исключение: ответственная категория учащихся, которые используют возможности ИИ для быстрого поиска сложного материала и методики его усвоения, например, при подготовке к олимпиаде или разбору нестандартных задач, решение которых вызывает у него огромную сложность. Здесь нейросеть может выступить как учитель, который в относительно доступной форме выложит метод решения задачи. Остается дело за «малым» – воспринять смысл этой информации. На самом деле, адекватное восприятие непонятной информации с решением может оказаться не только бесполезным, но даже и вредным, поскольку создаст иллюзию понимания методики решения задачи. Поэтому и пишу здесь – ответственный учащийся готов «ломать» голову, пока не поймет окончательно, в чем заключалась его ошибка.

Разумеется, полностью избежать внедрения ИИ в списывание домашних заданий учащихся уже не получится, однако планомерная работа учителя, родителя и многих школьников может привести общественное мнение к тому, что сама по себе учеба – дело важное и требует труда. Кажется, именно факт непонимания данной идеи и дает такие широкие права ИИ.