Алгоритмы и компьютеры не остановят терроризм

Алгоритмы и компьютеры не остановят терроризм


Если даже отец девочки, отправившейся в Сирию, чтобы присоединится к ИГИЛ, не знал о ее намерениях, то что говорить о ее компьютере.

В современном мире витает дух странного технологического утопизма. Возможно, это оттого, что алгоритмы управляют практически всеми сферами нашей жизни. Благодаря мощным вычислительным способностям современных компьютеров математические алгоритмы влияют на то, что мы читаем, покупаем и с кем мы общаемся, помогая нам каждый день управлять огромными объемами цифровых данных.

И эти алгоритмы справляются со своей работой настолько хорошо, что мы верим в их сверхспособности. Поэтому, будучи шокированными распространением запрещённой на территории РФ ИГИЛ, мы доверяем свое спасение технологиям.

В любом случае, наше общество обманывает себя нереалистичными ожиданиям, что разведслужбы или Facebook, или Twitter смогут выдать некую продвинутую технологию, умный алгоритм, который будет предугадывать и предупреждать те или иные радикальные намерения людей. Сейчас, когда все больше и больше молодых людей покидают свои родные города и отправляются в Сирию, чтобы присоединиться к ИГИЛ, единственным разумным шагом кажется мониторинг социальных сетей, чтобы как можно раньше распознать подобные намерения и остановить их. Юрист, представляющий Аксу Махмуд, девушку, которая предположительно сейчас находится в Сирии, обрушился с критикой на спецслужбы за то, что те не смогли отследить онлайн активность трех девушек-тинэйджеров, которые сейчас направляются в Сирию через Турцию.

Акса Махмуд, 20 лет, приехала в Сирию, чтобы присоединится к боевикам ИГИЛ.

Причем сами спецслужбы признают, что такая проблема есть. Так, после длительного расследования, Комитет по вопросам разведки и безопасности признал, что Майкл Адебовале, один из убийц британского солдата Ли Ригби, заявлял в соцсети о своем желании убить солдата. Этой соцсетью оказался Facebook, чьи алгоритмы не смогли выявить это сообщение, чтобы оповестить спецслужбы.

После этого британский Премьер-министр, выступая в Парламенте, заявил, что такие компании, как Facebook, должны иметь системы и алгоритмы, которые бы позволяли выявлять ключевые слова, фразы и друге зацепки, разоблачающие террористические намерения.

В британском научно-исследовательском центре Demos как раз и занимаются созданием алгоритмов, позволяющих определять намерение человека по тому, какие слова он использует. Это называется «естественной обработкой языка» и подразумевает обучение компьютерных систем автоматически распознавать наши слова и значения, которое мы в них вкладываем. Это чертовски сложно и сопряжено с неточностями и большими трудностями. Например, если взять для мониторинга хотя бы несколько таких слов: «бомба», «джихад», «Сирия» – то проблема становится очевидной. 1,3 млрд пользователей Facebook ежедневно отправляют 12 млрд. сообщений. И упомянутые выше слова люди используют по миллиону разных причин, по большей части не имеющих отношения к террористическим намерениям. Дело не облегчит даже сверх-умный алгоритм, анализирующий определенные кластеры слов и специфические семантические паттерны. В онлайн люди часто выражаются резко, оскорбляют и угрожают, но лишь крупица из них действительно имеет в виду то, что говорит, и только единицы готовы воплотить свои угрозы в реальность.

А если быть полностью честным, то даже если в Twitter решили бы мониторить всю активность своей сети и уведомлять спецслужбы о подозрительной «языковой активности», то и без того перегруженную MI5 накрыло бы волной тупиковых расследований и ложных следов. И через пару недель Британская Служба безопасности попросила бы Twitter такого больше не делать.

Такой техно-утопизм постепенно подрывает нашу веру в разведслужбы. Благодаря усовершенствованию технологий шифрования злоумышленники могут значительно легче избегать обнаружения в онлайн пространстве, а деятельность террористов не требует дотошного планирования, приготовлений и неординарных решений – все это сильно усложняет обеспечение безопасности в обществе. В то же время, отчасти благодаря признаниям Сноудена у нас сложилось стойкое впечатление того, что спецслужбы все видят и поэтому могут все предотвратить.

Дело Сноудена породило в обществе ошибочную веру в то, что разведывательные службы мониторят каждый наш шаг онлайн. А учитывая, что мы оставляем онлайн массу информации и данных, то всякий раз, как кто-то отправляется в Сирию, будут находиться цифровые крупицы оставленных следов, которых вовремя не заметили. Всегда так легко «обнаружить» что-то после того, как это произошло, и так неимоверно тяжело предвидеть это до того, как это происходит. Когда спецслужбы терпят неудачу (а они не могут всегда побеждать), то мы считаем их бесполезными. А когда они что-то предотвращают, мы этого, естественно, не замечаем. В результате возникает образ спецслужбы, которая видит все и при этом ничего не может сделать, и мы перестаем ей доверять и верить в ее эффективность.

А автоматические системы и онлайн мониторинг мало что могут сделать. Отец одной из девочек, отправившихся в Сирию через Турцию, говорит, что не было никаких знаков, указывающих на намерения его дочери. Если родной отец не может предвидеть поступки своей дочери, то что говорить о компьютерных алгоритмах.

Источник