Заштита на податоци
Едно општество е повеќе од збирот на неговите индивидуи

Без разлика дали на Facebook, Siri или Alexa - кога станува збор за технологијата за вештачка интелигенција, јавноста често се жали на недостаток на заштита на приватноста. Сепак, интелигентните системи се помалку заинтересирани за индивидуални податоци отколку за генерализација и стандардизација на животните контексти што ги автоматизираат.

Zoom и Skype, социјалните медиуми, паметните часовници, но и паметните телефони, банките и осигурителните компании користат сложени алгоритамски системи, кои вообичаено ги нарекуваме системи со „вештачка интелигенција“. За да можат добро да работат, некои од нив собираат многу податоци - ова се однесува, на пример, за провајдери како Spotify, пребарувачот Google, Instagram, Siri или Alexa. 
 
Од овие податоци може да се извлечат одредени заклучоци, кои на моменти го надминуваат вкусот за музика или навиките за пребарување на корисниците. На пример, кога некое лице слуша музика што е популарна во заедницата LGTBQI +, тоа може да доведе до претпоставка за неговата сексуална ориентација? Колку е сигурна оваа претпоставка? Што е со културната заднина на личноста која слуша црнечка музика, R&B или музика на одреден јазик?
 Голем дел од собраните податоци, кои на прв поглед изгледаат незначителни, можат да станат чувствителни во одреден контекст, поради што печатот и пошироката јавност веќе се жалат за нарушување на приватноста. Но, често се заборава дека овие инфраструктури обично не се заинтересирани за конкретните приватни лица коишто стојат зад овие податоци. Дури и ако собираат и користат лични податоци - на пример кога Spotify нуди избор на музика прилагодена на поединецот - специфичните, лични податоци се ирелевантни за системот како целина.

Каша од математички податоци

Терминот „вештачка интелигенција“ означува социо-технички системи во кои е тешко да се одвои човекот од машината. Овие системи се засноваат на претпоставки за светот и човекот, неговите цели и намери, кои се засноваат на човечки одлуки. Истото важи и за потребната обработка во форма на податоци. Како и кај загатките, податоците за луѓето се преведуваат во делови од сложувалки со податоци. Математичките формули кои ги обработуваат податоците собираат сè во каша - поединците стануваат просеци и статистички профили: фино гранулирани, но како „генерички“ поединци од фиоки. 
 
За сѐ да се објасни сликовито: фокусот не е на индивидуалното дрво во шумата (поединецот), туку на самата шума (општество). Амбивалентноста и двосмисленоста на човечкиот живот, од друга страна, не можат целосно да се преведат во податоци и алгоритми. Овие инфраструктури воопшто не се насочени кон ова - тие се повеќе насочени кон обликување на животите на луѓето, како што забележува британскиот правен научник Мајкл Вејл. Овие системи се користат за автоматизирање на одредени процеси. Ова значи дека се поставени стандарди за процеси во кои веројатно имало различни мануелни опции и патеки кои повеќе не ја овозможуваат оваа флексибилност. Почнувајќи со одлуката за тоа што ќе биде податок, а што не: она што се брои како податок, на пример, и во кој формат, е одлука за тоа што се гледа од системот, а што не постои во системот бидејќи не е датирано. На тој начин, стандардите, форматите на податоци, одлуките за обработка на податоци итн. на системите го диктираат начинот на кој пристапот, учеството и интеракциите се воспоставуваат во рамките на услугата.
 
Токму тука станува очигледен основниот проблем со регулирањето на овие системи: основните права и заштитата на податоците се индивидуални права; целиот систем на основни права и конкретното, едноставно право произлегуваат од поединецот. Со други зборови: германскиот правен систем признава само дрвја, а не шуми, кога станува збор за основните права. Со сегашните правни инструменти, технологиите се регулирани на таков начин кој покажува како шумата да може да се контролира со поединечни регулативи за дрвја. 

Препознавање на криминалот во толпата

Добар пример за ова несовпаѓање помеѓу правниот систем и оперативните системи за вештачка интелигенција се системите за предвидување во полицијата, исто така познати како „предвидлива полициска работа“. Тие идентификуваат модели на однесување за различни категории на криминал со цел да се искористат овие информации за да се спречат слични злосторства. Бидејќи овие технологии одговараат на инфраструктура, додека заштитата на податоците ги регулира само индивидуалните права, некои од програмите што се користат во Германија ја избегнуваат сегашната законска регулатива. Во повеќе делови на Германија, на пример, државната полиција користи софтвер Precobs, кој предвидува упади со одреден начин на работа во одредена временска рамка и географски параметри користејќи анонимни податоци за видот на криминалот, времето и географските податоци. Соодветните државни органи за заштита на податоците дозволија користење на софтверот - бидејќи не се обработуваат лични податоци и затоа тоа не е нивна одговорност. 
 Притоа системот покренува голем број прашања: дали жителите се чувствуваат побезбедно доколку одеднаш може да се забележи поголемо полициско присуство во одредени делови од градот? Или пак тоа дури ќе доведе до масовно иселување на жители кои можат да си дозволат стан во друг дел од градот? Овие прашања не се законски регулирани. Истражувањата покажуваат дека присуството на полиција на фудбалските натпревари го зголемува насилството кај хулиганите. Од оваа причина, полицајците се распоредени во цивилна облека.
 
Прашањето за социјалниот ефект на програмите како Precobs не се разгледуваше политички, ниту беше законски осмислено. Од правен аспект, фокусот беше исклучиво на тоа дали (заштитата на податоците) индивидуалните права се повредени од софтверот или не. Ова покажува дека социјалната стабилност на цел град не може да се мапира со предвидливи полициски алатки од една страна и индивидуални регулативи од друга. Затоа тоа редовно се занемарува.

Земање предвид на општествените вредности

Социо-техничките системи како што е предвидливото полициско работење (Predictive Policing ) покажуваат како заедницата како целина не се гледа во индивидуалистичко општество. Едно општество е повеќе од збир на неговите поединци и не само што му се потребни индивидуални права, туку нив мора да ги балансира со општествените вредности. Ова мора да се има предвид секогаш кога се разгледуваат алгоритамските системи. Демократиите го занемарија последново. Тоа е нашата домашна задача за во иднина.