От «чёрного ящика» к «стеклянной коробке»: практика обучения школьников анализу ошибок и принципов работы ИИ-генерируемого контента

Автор: Кулаева Елизавета Сергеевна

Организация: МБОУ «СОШ №30»

Населенный пункт: Забайкальский край, г. Чита

Аннотация. В статье описан методический подход к изучению искусственного интеллекта на уроках информатики в 8–9 классах, при котором ИИ-генерируемый текст становится не средством выполнения задания, а объектом критического анализа. Показано, как через кейс-метод, работу в парах и «рецензирование» ответа нейросети у школьников формируются предметные, метапредметные и личностные результаты: понимание вероятностной природы языковых моделей, умение находить фактические, логические и алгоритмические ошибки, навыки цифровой этики. Приведены фрагмент технологической карты занятия, пример задания с ошибками, критерии оценивания и методические рекомендации.

Ключевые слова: искусственный интеллект, ИИ-грамотность, критическое мышление, большие языковые модели, информатика, ФГОС, продуктивная деятельность, цифровая этика.

1. Актуальность и проблема

Школьники всё чаще используют чат-боты для подготовки сообщений, рефератов, объяснения алгоритмов и даже написания кода. Однако практика показывает: многие учащиеся воспринимают ответ нейросети как «готовый правильный ответ», не различая факт и правдоподобную формулировку, не проверяя логику и не замечая ошибок в программном коде. Возникает противоречие: инструмент доступен, но отсутствует культура его проверки.

Для учителя информатики это означает необходимость сместить акцент: не запрещать ИИ и не только «показывать возможности», а превращать его в учебный объект. Если модель остаётся «чёрным ящиком», ученик остается потребителем. Если мы вместе с учеником вскрываем механизм хотя бы на доступном уровне и учим проверять результат, ИИ становится «стеклянной коробкой» понятной в принципах и контролируемой в применении.

Предлагаемый подход соответствует требованиям ФГОС основного общего образования: формирование базовых логических действий, работы с информацией, ИКТ-компетентности, а также предметных результатов по информатике - формализации, алгоритмизации, программирования и оценки информационных моделей. Кроме того, он отвечает задаче воспитания ответственного цифрового поведения.

2. Методический замысел

Цель занятия: сформировать у учащихся умение критически анализировать текст и код, сгенерированные большой языковой моделью, объяснять причины возможных ошибок и корректировать результат.

Планируемые результаты:

• предметные: понимать, что языковая модель предсказывает вероятное продолжение текста, а не «знает» истину; находить ошибки в описании алгоритма и в коде; исправлять их;
• метапредметные: работать по чек-листу, аргументировать, вести учебное рецензирование, сравнивать источники;
• личностные: осознавать риски ИИ, соблюдать цифровую гигиену, не передавать персональные данные в чат-бот, ответственно относиться к результатам.

Технологии и приёмы: кейс-метод, «перевёрнутый класс» (краткий видеоролик о принципах работы языковых моделей до урока), работа в парах и малых группах, приём «рецензия на ответ ИИ», формирующее оценивание по критериям.

Оборудование: компьютер учителя, проектор, компьютеры/планшеты для пар, доступ к заранее подготовленному тексту (распечатка или файл). Если доступ к чат-боту в школе ограничен, используется заранее сохранённый сгенерированный текст - это не снижает методического эффекта.

Важное условие безопасности: на уроке не используются персональные данные; учащимся объясняется, что запросы к внешним сервисам выполняются только по регламенту образовательной организации и с разрешения учителя.

3. Фрагмент технологической карты занятия

Таблица 1 – Фрагмент технологической карты занятия по анализу ИИ-генерируемого контента

Этап	Время	Деятельность учителя	Деятельность учащихся	Формируемые действия
Мотивация	5 мин	Показывает два ответа на один вопрос: один - учебный, другой - сгенерированный ИИ. Спрашивает: «Какой можно доверять и почему?»	Высказывают предположения, фиксируют критерии доверия	Постановка учебной задачи
Актуализация	7 мин	Кратко объясняет: языковая модель предсказывает следующий токен на основе вероятностей; она не гарантирует истинность, возможны «галлюцинации»	Слушают, задают вопросы, записывают 2–3 причины ошибок ИИ	Работа с информацией
Постановка задачи	3 мин	Формулирует задачу: «Вы - тестировщики. Найдите ошибки в ответе ИИ и исправьте их»	Принимают роль, знакомятся с чек-листом	Учебное сотрудничество
Групповая работа	15 мин	Консультирует, наблюдает, фиксирует типичные затруднения	В парах анализируют текст и код по чек-листу, помечают ошибки	Критическое мышление
Мини-лекция	5 мин	Объясняет различия: факт, логика, код, крайние случаи, источник	Соотносят свои находки с объяснением	Систематизация
Защита	8 мин	Организует обсуждение: «Какая ошибка самая опасная?»	Представляют результаты, аргументируют	Коммуникация
Рефлексия	5 мин	Предлагает продолжить фразу: «Теперь я буду проверять ИИ так…»	Формулируют личный чек-лист	Самооценка
Домашнее задание	2 мин	Даёт задание: составить 3 вопроса к ИИ и проверить ответы по чек-листу	Записывают задание	Перенос

4. Пример задания для учащихся

Задание. Перед вами фрагмент ответа, сгенерированного языковой моделью. Найдите не менее четырёх ошибок: фактическую, логическую, ошибку в коде и ошибку в оценке сложности. Исправьте текст и код. Объясните, почему ИИ мог допустить каждую ошибку.

Сгенерированный текст:

«Бинарный поиск работает в любом массиве и не требует предварительной сортировки. На каждом шаге алгоритм делит массив пополам и сравнивает искомое значение с элементом mid = (left + right) / 2. Если искомое значение меньше элемента mid, поиск продолжается в правой половине. Сложность алгоритма - O(n)».

Сгенерированный код:

python

def binary_search(a, x):

l = 0

r = len(a) - 1

while l < r:

m = (l + r) // 2

if a[m] == x:

return m

elif a[m] < x:

r = m

else:

l = m

return -1

Ожидаемые находки учащихся:

1. Бинарный поиск требует отсортированного массива.
2. При a[m] < x нужно двигаться вправо: l = m + 1, а не r = m.
3. При a[m] > x нужно двигаться влево: r = m - 1.
4. Условие цикла должно быть while l <= r, иначе часть случаев теряется.
5. Сложность бинарного поиска - O(log n), а не O(n).
6. Формулировка «работает в любом массиве» - фактическая ошибка; корректнее говорить об упорядоченном массиве.

Вопросы для обсуждения:

• Почему модель могла «уверенно» написать неверное утверждение?
• Чем ответ ИИ отличается от ответа учебника?
• Какие признаки ошибки можно заметить без запуска кода?
• Что нужно изменить в запросе, чтобы получить более проверяемый ответ?

Чек-лист проверки ответа ИИ:

1. Есть ли фактические утверждения, которые нужно проверить по учебнику/справочнику?
2. Не нарушена ли логика: «если… то…»?
3. Корректны ли граничные случаи: пустой массив, один элемент, элемент в начале/конце?
4. Скомпилируется ли код? Нет ли ошибок в условиях и индексах?
5. Указана ли сложность и обоснована ли она?
6. Нет ли предвзятых или опасных формулировок?
7. Не требуется ли защита персональных данных?

5. Критерии оценивания

Таблица 2 – Критерии оценивания выполнения задания по поиску ошибок в ответе ИИ

Критерий	Показатель	Баллы
Нахождение ошибок	Найдено не менее 4 ошибок разных типов	0–4
Аргументация	Каждая ошибка объяснена со ссылкой на правило/пример	0–3
Исправление кода	Код исправлен и проходит проверку на тестовых примерах	0–3
Рефлексия	Сформулирован личный приём проверки ИИ	0–2

Итого - 12 баллов. Отметка выставляется по заранее объявленной шкале; возможно само- и взаимооценивание по критериям.

6. Методические рекомендации и дифференциация

• Для сильных учащихся: предложить усложнённый кейс - найти ошибку в оценке сложности и доказать её; сравнить два ответа ИИ на один запрос.
• Для учащихся с трудностями: выдать «подсказки-маркеры»: «проверь условие цикла», «проверь границы», «проверь требование к массиву».
• Для сохранения продуктивности: обязательна защита результатов - учащиеся не просто исправляют, а объясняют, почему ИИ ошибся.
• Для связи с программированием: после исправления кода полезно запустить его на наборах: пустой массив, один элемент, искомый элемент отсутствует.
• Для цифровой этики: обсудить, почему нельзя вводить в чат-бот персональные данные и как проверять источники.

7. Наблюдаемые эффекты и выводы

В ходе апробации на уроках информатики в 9 классе учащиеся чаще всего сначала замечали ошибку в сложности алгоритма, но пропускали ошибку в условии цикла. После работы с чек-листом и защиты результатов количество найденных ошибок в аналогичном задании возрастало; главное - менялась формулировка учащихся: вместо «ИИ написал» появлялось «ИИ предположил, но это нужно проверить». Это и есть переход от потребительского отношения к исследовательскому.

Предлагаемый подход не требует дорогого оборудования и может быть реализован даже при ограниченном доступе к внешним сервисам: достаточно заранее подготовленного текста. Он сочетает предметное содержание информатики с формированием критического мышления и цифровой этики, а значит, отвечает задачам современного урока в соответствии с ФГОС.

Вывод: обучение анализу ошибок ИИ - не дополнительная «модная» тема, а практическая линия работы учителя информатики. Она превращает искусственный интеллект из «чёрного ящика» в «стеклянную коробку»: ученик понимает ограничения модели, проверяет результат и несёт ответственность за его использование.

Литература и источники

1. Федеральный государственный образовательный стандарт основного общего образования (утв. приказом Минпросвещения России).
2. Федеральный государственный образовательный стандарт среднего общего образования.
3. Модель цифровых компетенций: базовые и профильные компетенции для 5–11 классов (материалы Альянса в сфере ИИ и фонда «Вклад в будущее»).
4. Примерная рабочая программа по информатике (базовый и углублённый уровни).