В американских школах начали использовать искусственный интеллект для выявления опасных учеников в соцсетях

Подростки не знают, что за ними следят в интернете.

Высшая техшкола Шошин Вэлли начала следить за учениками в соцсетях с помощью искусственного интеллекта, чтобы выявлять тех, кто может быть опасен для себя и для общества. Она стала одной из многих школ, внедривших эту технологию в свои системы безопасности. О случае Шошин Вэлли рассказало местное издание WBUR.

Систему отслеживания разработала для школы аналитическая компания Social Sentinel. В разговоре с журналистами гендиректор фирмы Гэри Марголис (Gary Margolis) рассказал, что Social Sentinel работает с лингвистами и психологами, чтобы натренировать свой искусственный интеллект.

Компания использует собственную «библиотеку угроз», состоящую из 450 тысяч различных индикаторов, указывающих на то, что ученик может нанести вред себе или окружающим. ИИ маркирует потенциально проблемных учащихся и в теории поможет школе предотвратить происшествие.

Мы сделали шаг назад и посмотрели на язык, который использовали стрелки в школах в своих манифестах, опубликованных в соцсетях. И мы попытались выявить паттерны и сходства. Мы можем научить компьютеры идентифицировать такие нюансы.

Гэри Марголис

гендиректор Social Sentinel

По данным WBUR, учащиеся школы «даже не догадывались», что их учебное заведение использует подобные технологии. Марголис заявил журналистам, что компания считает себя не «инструментом наблюдения, мониторинга или расследования», а «системой предупреждения угроз».

Social Sentinel работала над системой совместно с полицейскими, до того как открыла доступ к ней для школ. Услуги компании обходятся Шошин Вэлли в 10 тысяч долларов в год, однако фирма отказалась раскрывать, насколько успешно работает её искусственный интеллект.

В городе Арлингтон систему внедрили на уровне полицейского управления: она анализирует сообщения от учеников сразу во всех школах города. По словам начальника полиции Фреда Райана, благодаря Social Sentinel сотрудники недавно смогли спасти ученика, который планировал покончить жизнь самоубийством.

Шошин Вэлли не единственная школа, которая начала практиковать подобный подход к безопасности на фоне случаев массовой стрельбы. Школа Mайами-Дейд запросила 30 миллионов из бюджета штата на увеличение системы безопасности, включая найм сотрудников для отслеживания соцсетей.

Школы в техасском округе Уилсон и в штате Теннесси также используют системы мониторинга социальных сетей. А учебные заведения в Нью-Йорке и Флориде потратили миллионы долларов на создание круглосуточного наблюдения, которое включает распознавание лиц и биометрические сенсоры.