Experta în securitate, își petrece zilelele gândindu-se cum să prevină scenariile cele mai grave, în timp ce oferă o voce oamenilor din întreaga lume. Cu umor apatic, ne deschide o portiţă către modul în care ţine 240 milioane de utilizatori în siguranţă.

 Job-ul meu la Twitter e să asigur încrederea utilizatorilor, să protejez drepturile şi siguranţa lor, atât între ei şi, uneori, de ei înşişi. Aşa arată graficul la Twitter. În ianuarie 2009, erau peste două milioane de tweets noi în fiecare zi pe platformă. Ianuarie 2014, peste 500 de milioane. Erau două milioane de tweets în mai puţin de şase minute. Asta reprezintă o creştere de 24,900%.

Majoritatea activităţii pe Twitter nu pune pe nimeni în pericol. Nu e niciun risc implicat. Meseria mea e să îndepărtez şi să previn activitatea care ar putea. Sună simplu, nu? Aţi putea crede că e uşor, având în vedere că doar ce am spus că majoritatea activităţii pe Twitter nu prezintă un pericol. De ce să petrec atât de mult timp căutând potenţiale calamităţi în activităţi inofensive? Având în vedere amploarea Twitter-ului, o şansă de unu la un milion se întâmplă de 500 de ori pe zi. E valabil şi pentru alte companii de această amploare. Pentru noi, cazurile izolate, acele situaţii rare, care sunt puţin probabil să apară, devin norme. Să spunem că 99.999% de tweets nu prezintă niciun risc. Nu implică nicio ameninţare. Poate că oamenii se documentează despre obiective turistice, precum Reciful Inimă din Australia sau tweet despre un concert la care au fost, împărtăşesc imagini cu pui de animale drăguţe. După ce scoţi procentul de 99.999%, acel procent mic de tweets care rămîne ajunge la aproximativ 150.000 pe lună. Scara mare la care lucrăm reprezintă o provocare.

Stiţi ce altceva face rolul meu provocator? Oamenii fac lucruri ciudate. Trebuie să-mi dau seama ce fac, de ce și dacă implică vreun risc, deseori fără prea mult context sau fundal. Vă voi arăta câteva exemple pe care le-am întâlnit cât am lucrat la Twitter– toate sunt exemple reale — situaţii care la început păreau obişnuite, dar adevărul era ceva cu totul diferit. Detaliile au fost schimbate pentru a proteja pe cei nevinovaţi şi, uneori, pe cei vinovaţi.

Vom începe uşor."Hey, bitch (cățea)"

Dacă aţi vedea un Tweet care spune doar asta, aţi putea crede că "pare un abuz." La urma urmei, de ce ai vrea să primeşti un mesaj cu "Hey, bitch." Încerc să fiu la curent cu cele mai recente tendinţe şi meme, aşa că ştiam că "hey, bitch" era un salut comun între prieteni, dar şi o referinţă populară pentru o "Despărţire urâtă". Recunosc că nu mă aşteptam să întâlnesc un al patrulea caz de utilizare. Se pare că e folosit pe Twitter şi când oamenii joacă roluri de câini. În acest caz, nu e doar neabuzivă, dar, din punct de vedere tehnic, e o formulă de salut corectă. (Râsete)

Stabilirea dacă sau nu ceva e abuziv fără context, e cu siguranţă dificil.

Să ne uităm la spam. Iată un exemplu de cont angajat în comportamentul de spammer clasic, trimiţând exact acelaşi mesaj la mii de oameni. Deși e o machetă pe care am creat-o folosind contul meu, vedem conturi care fac asta tot timpul. Pare destul de simplu. Ar trebui doar să suspendăm automat conturile cu acest tip de comportament. Se pare că există excepţii de la regulă. Acel mesaj ar putea fi și o notificare la care te-ai înscris ca Staţia Spaţială Internaţională să treacă deasupra pentru că ai vrut să mergi afară şi să vezi dacă îl poţi vedea. Nu vei avea acea şansă dacă suspendăm greşit contul, crezând că e spam.

Să facem miza mai mare. Înapoi la contul meu, din nou prezentând comportamentul clasic. De data asta, trimite acelaşi mesaj şi link-ul. Așa arată ce numim phishing, cineva încercînd să fure informaţiile de cont ale unei persoane, orientând-o către un alt site. Clar, nu e un lucru bun. Vrem să suspendăm conturile angajate în acest tip de comportament. De ce e miza mai mare pentru asta? Asta ar putea fi şi un spectator la un miting care a reuşit să înregistreze un video cu un ofiţer de poliţie bătând un protestatar non-violent şi încearcă să informeze lumea. Nu vrem să ne hazardăm să reducem la tăcere acel discurs crucial, clasificându-l ca spam şi suspendându-l. Înseamnă că evaluăm sute de parametri când ne uităm la comportamente de cont şi, chiar şi atunci, putem greşi şi trebuie să-l reevaluăm.

Având în vedere provocările la care trebuie să fac față, e crucial nu doar să prevăd, ci şi să creez protecţii pentru situaţii neaşteptate. Nu e o problemă doar pentru mine, sau pentru Twitter, e o problemă pentru tine. Pentru oricine construieşte sau creează ceva care crede că va fi minunat şi va permite oamenilor să facă lucruri grozave. Ce fac atunci? Mă opresc şi mă gândesc cum ar putea toate astea să meargă teribil de rău? Vizualizez catastrofa. E greu. Există un fel de disonanţă cognitivă inerentă în a face asta, ca atunci când scrii jurămintele de nuntă în acelaşi timp cu contractul prenupţial. Dar trebuie s-o faci, mai ales când te căsătoreşti cu 500 de milioane tweets pe zi. Ce vreau sa spun prin "vizualizez catastrofa?" Încerc să mă gândesc cum ceva benign şi inofensiv ca imaginea unei pisici ar putea aduce moarte şi ce să fac pentru a preveni asta. Asta se întâmplă să fie următorul meu exemplu. Asta e pisica mea, Eli. Am vrut să oferim utilizatorilor posibilitatea de a adăuga fotografii la tweets lor. O imagine valorează o mie de cuvinte. Ai doar 140 de caractere. Adaugi o fotografie la tweet, uite cât de mult conţinut ai acum. Există tot felul de lucruri minunate pe care le poţi face adăugând o fotografie la un tweet. Job-ul meu nu e să mă gândesc la astea. E să mă gândesc la ce ar putea merge prost.

Cum ar putea acestă fotografie să ducă la moartea mea? Ei bine, iată o posibilitate. Există mai mult în acea imagine decât o pisică. Sunt date spaţiale. Când faci o fotografie cu smartphone-ul sau camera digitală, există o mulţime de informaţii suplimentare salvate în acea imagine. De fapt, această imagine conţine echivalentul acestui lucru, mai exact, asta. Sigur, nu e probabil ca cineva să încerce să mă urmărească şi să-mi facă rău bazându-se pe datele imaginii asociate cu fotografia pe care am făcut-o pisicii mele, dar încep prin a presupune ce e mai rău. De aceea, când am lansat fotografii pe Twitter, am hotărât să tăiem datele spaţiale. Dacă încep prin a presupune ce e mai rău şi se întâmplă invers, pot să asigur că protecţia pe care o construim funcţionează atât pentru cazurile de utilizare aşteptate, cât şi neaşteptate.

Având în vedere că petrec zile şi nopţi imaginându-mi ce e mai rău, nu ar fi surprinzător ca viziunea mea să fie întunecată. Nu este. Majoritatea interacţiunilor pe care le văd– şi văd multe, credeţi-mă, sunt pozitive, oamenii oferindu-se să ajute, să se conecteze sau să împărtăşească informaţii. Pentru aceia dintre noi care lucrează la dimensiunea asta, însărcinaţi să ţină oamenii în siguranţă, trebuie să presupunem ce e mai rău, deoarece pentru noi, o şansă la un milion are şanse destul de mari.