Како да се спречи пренос на тероризам во живо на интернет?

ДВ: Напаѓачот од Крајстчрч со камера преку Фејсбук во живо го стримуваше нападот. По информација од полицијата, видеото подоцна беше повлечено. Дали Фејсбук можеше да го спречи тоа?

Феликс Фрајлинг: Прашањето е на кој начин. На Фејсбук и на други платформи секој ден се појавуваат илјадници видеа и стримување во живо. Сето тоа мануелно да се оценува е невозможно. Автоматско препознавање на слика е исто така комплициран потфат. Алгоритмот би требало да разликува меѓу реално насилство, како во случајот со Крајстчрч и фиктивно, како на пример во некој филм. Дури и за луѓе некогаш е тешко да разликуваат дали видеата се вистински или не. А, алгоритмите се онолку добри колку податоците со кои се „хранат”. За среќа нема доволно слики од вистинско насилство за да може да има јасна класификација.

Има ли друг пристап?

Една можност би била платформите подетално да проверуваат кои корисници стримуваат содржини. Тоа значи дека претходно треба да се проверува кој е тој корисник во реалниот живот. Ако де факто се стримува нешто казниво човек ќе знае кому да се обрати. Ниту ова не помага однапред да бидат исклучени такви стримувања, но отпосле може релативно брзо да се утврди одговорниот. Освен тоа, ќе има застрашувачко влијание на оние кои планираат да стримуваат насилни дела на интернет. Вториот аспект е што кога се знае кој бара пристап, може и однапред да му биде одбиен. Се работи за луѓе кои можеби веќе на некој начин биле регистрирани кај самата платформа или кај властите, како на пример полицијата.

Како би можела да изгледа таква претходна контрола?

Таков начин на идентификација постои веќе сега, на пример кога се работи за онлајн-банкарство. Има посилни и послаби методи. Некои банки на пример бараат чет во живо со консултант на банката. Клиентот тогаш мора да го покаже својот пасош во камерата и да одговара на одредени прашања. Кај банките е јасно регулирано дека мора да се осигураат за кој човек станува збор. И таму тоа си функционира. Зошто да не важи тоа и за посебни функции како стримувањето во живо на Фејсбук?

Фејсбук најави нови правила пред самитот за Крајстчрч во Париз: корисниците би можеле да бидат исклучени од опцијата Фејсбук-лајв доколку се забележани тешки престапи против правилата. Дали е тоа доволно?

Фејсбук би можел да биде и малку повеќе проактивен. Секако дека е добар почеток да се исклучуваат корисници кои ги прекршуваат правилата. Но, тоа не спречува некој кој сака да стримува насилство истото и да го стори. Тука не помага ни застрашувањето со таквите забрани. Такви екстремисти често ѝ се веќе познати на полицијата. Такви лица однапред не треба да бидат прифатени, но за тоа е потребна претходна идентификација.

Фејсбук најави дека ќе спроведува автоматско препознавање на слики и ќе ги блокира сомнителните профили на „одредено време". Тоа не звучи консеквенто.

Да се блокираат корисници засекогаш не е во согласност со бизнис моделот на големите концерни. Нивната цел секако е што повеќе луѓе и што подолго да им бидат активни на страницата. Секако, не е никаква тајна дека сензационална содржина носи повеќе кликови. Оттука Фејсбук и останатите имаат интерес да пропуштаат што повеќе содржини. Дури и инвестициите во системот за препознавање на слики за Фејсбук е инвестиција во нивниот бизнис модел. Корисниците треба да имаат што поголема слобода. Најуверливи мерки се оние кои не се во согласност со бизнис моделот на компанијата, но тоа се мерки кои би му наштетиле на Фејсбук. Она што сега го најави концернот нема таков ефект.

Колкава е веројатноста дека Фејсбук ќе ги имплементира идеите како на пример претходна идентификација?

Не гледам зошто Фејсбук би го направил тоа, бидејќи тоа за нив нема да важи. Поефективна би била регулација преку политиката. На пример, парични казни би биле доста мотивирачки.

До каде треба да оди таа регулатива?

Регулативата е секогаш меч со две острици. Но регулативата е нешто со кое се стекнува искуства. И регулатива која се применува треба одново да се преиспитува. За среќа имаме институции кои може да ги спроведат тие регулативи или да ги променат. Сметам дека мора да се направи чекор кон поголема регулација. Само така може да се спречат вакви ексцеси коишто се случуваат на интернет.

Како може и како треба да реагира секој корисник на насилство на социјалните мрежи?

На овие платформи секој корисник може со еден клик да пријави содржини со насилен карактер или со илегална содржина. Во случај на двоумење има и таканаречени места за жалби на интернет, на кои исто така може да се пријават ваквите содржини. И интернет провајдерите соработуваат за ваквите содржини што побргу се отстранат од мрежата. И крајно, корисниците може да ја информираат и полицијата, во случај на вакви стримови, како на пример оној на атентаторот од Крајстчрч.

Проф. д-р Феликс Фрајлинг е раководител на одделот за ИТ-безбедност на Универзитетот Фридрих Александер во Ерланген-Нирнберг. Во неговото истражување тој се занимава со офанзивна ИТ-безбедност, како на пример, хакерство. Негова експертиза се и истраги во кривични случаи на ИТ безбедност.