Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.

Оставить комментарий
Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.

Лазаря очень расстроил результат в одном из тестов по истории — он набрал лишь 50%. Мама подростка Дана попыталась подбодрить его, но потом заметила, что знания детей на Edgenuity оценивает не живой учитель, а алгоритм, поскольку сайт выдаёт отметку меньше чем за секунду после отправки ответа.

Женщина проанализировала «правильные ответы» на другие вопросы, которые система раскрывала в конце проверки. Оказалось, что AI просто ищет в тексте ответов ключевые слова, и исходя из этого подсчитывает баллы. Симмонс посоветовала сыну отвечать развёрнуто, вставляя максимум имён собственных, и стараться копировать ответы, которые «ожидает» система. Результативность Лазаря выросла до 80%.

Но 12-летний мальчик пошёл дальше: он решил писать по два полных предложения, а потом в произвольном порядке — набор главных слов из обучающих материалов. По словам матери, ребёнок стал получать высший балл по всем тестам.

В серии твитов Симмонс, которая является профессором истории, ставит под сомнение эффективность оценки успеваемости детей искусственным интеллектом. По её мнению, автоматизированные алгоритмы могут оказать более разрушительное воздействие на психику детей, чем кажется, и уничтожить их уверенность в себе.

Edgenuity содержит более 300 уроков для средней и старшей школы по разным школьным предметам и факультативам, а также видеолекции, задания, тесты и экзамены. Платформа никак не прокомментировала ситуацию с оценками. На сайте говорится, что по некоторым вопросам, если ответ ученика не содержит ни одного ключевого слова, система может не засчитать его вообще, или же дать 100%, если есть хотя бы одно такое слово.

Похожим методом пользовался ещё один школьник, который учился по Edgenuity несколько лет назад. Он рассказывает, что иногда, когда вообще не разбирался в теме, вводил только ключевые слова, и чаще всего это срабатывало.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Читайте также

Около трети айтишников на удалёнке готовы уволиться, если заставят вернуться в офис
Около трети айтишников на удалёнке готовы уволиться, если заставят вернуться в офис
Около трети айтишников на удалёнке готовы уволиться, если заставят вернуться в офис
1 комментарий
Потенциальный министр финансов США предлагает ограничить криптовалюты
Потенциальный министр финансов США предлагает ограничить криптовалюты
Потенциальный министр финансов США предлагает ограничить криптовалюты
Twitter заблокировал аккаунт китайского посольства в США за унижение уйгурок
Twitter заблокировал аккаунт китайского посольства в США за унижение уйгурок
Twitter заблокировал аккаунт китайского посольства в США за унижение уйгурок
Биткоин и акции американских ИТ-компаний — самые большие пузыри: Deutsche Bank
Биткоин и акции американских ИТ-компаний — самые большие пузыри: Deutsche Bank
Биткоин и акции американских ИТ-компаний — самые большие пузыри: Deutsche Bank
2 комментария

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже