Kas tehnoloogia on tõesti neutraalne või ehitatakse kurjus juba koodi sisse?

Sissejuhatus

Selle nädala teema viskas ette ühe korraliku filosoofilise pähkli: kas tehnoloogia iseenesest saab olla eetiline või ebaeetiline? See vana hea Silicon Valley vendade vabandus on ju alati see, et tehnoloogia on lihtsalt tööriist. Et nagu haamer, millega saad maja ehitada, aga saad ka kellelegi peksa anda. Iga kord, kui mingi nende uus algoritm päriselus asju perse keerab, pestakse käed puhtaks ja öeldakse, et see on lõppkasutaja vastutus. Mina aga väidan, et see on puhas pläma. Enamik asju on tõesti neutraalsed, aga teatud tehnoloogiatesse on eetiline (või ebaeetiline) suund juba eos disainiga sisse kirjutatud.

Ebaeetiline a priori: näotuvastus ja taskus istuvad nuhid

Võtame näiteks tehnoloogia, mis on minu silmis juba a priori (iseenesest) ebaeetiline: reaalajas toimiv massiline näotuvastus. Ma ei räägi sellest, et sa teed iPhone'i oma näoga lahti. Ma räägin Hiina Skynetist või Londoni politsei uutest süsteemidest, kus kaamerad imevad tänaval igast möödujast andmeid, et jälgida, kes sa oled, kus sa käid ja kellega kokku saad. Miks see juba eos ebaeetiline on? Sest selle asja ainus eksistentsi mõte on masside kontrollimine ja jälgimine. Sa ei saa võtta tervet linna katvat näotuvastust ja öelda, et me loeme sellega lihtsalt loomaaias tiigreid. Kogu see süsteem ehk tsentraalne server, pidev videovoog ja seos riiklike andmebaasidega, kõik on see disainitud ühepoolseks võimunäitamiseks. See on puhas Zuboffi jälgimiskapitalism, lihtsalt riigi käes.

Teine sarnane näide on nuhkvara nagu Pegasus. Kogu selle koodi eesmärk on inimese telefoni varjatult sisse muukida. Jah, nad müüvad seda jutuga, et püüame terroriste, aga reaalses maailmas jälgitakse sellega ajakirjanikke, aktiviste ja poliitilisi vastaseid. Kui tööriist on ehitatud puhtalt salajaseks nuhkimiseks, siis välistab see kohe algusest peale igasuguse läbipaistvuse. See on oma olemuselt ebaeetiline, ükskõik mis sildid sinna peale kleebitakse.

Eetiline a priori: krüpto, mis päriselt kaitseb

Täiesti vastupidise näitena toon aga end-to-end (otspunkt) krüpteerimise, näiteks Signali protokolli kujul. Minu arvates on see a priori eetiline tehnoloogia. Miks? Sest selle kogu disaini eesmärk on kaitsta inimese privaatsust nii, et isegi teenusepakkuja ise ei näe, millest sa räägid. Matemaatika on lihtsalt lukus. Isegi kui serverid konfiskeeritakse, ei ole sealt midagi lugeda. See ongi Kanti kategoorilise imperatiivi praktiline väljendus IT-maailmas, sest see tehnoloogia kohtleb iga kasutajat kui eesmärki omaette, mitte kui vahendit, kust andmeid välja lüpsta.

Alati lendab muidugi keegi peale argumendiga, et pätid peidavad ka ennast krüpto taha. Okei, tõsi. Aga kui me paneme kaalukausile maailma, kus miljonitel ajakirjanikel, dissidentidel või lihtsalt tavainimestel on turvaline suhtluskanal, versus maailma, kus valitsused ja firmad loevad kõigi kirju, siis reegliutilitarismi seisukohalt on tugev krüpto igal juhul netopositiivne. See on inimese autonoomia kaitsja.

Kus jookseb piir?

Kus siis jookseb piir neutraalse tööriista ja eetiliselt laetud tehnoloogia vahel? See jookseb seal, kus kasutusjuhtum on juba koodi sisse kirjutatud nii spetsiifiliselt, et seda on võimatu teistpidi pöörata. Programmeerimiskeel on neutraalne. Haamer on neutraalne. Aga kui koodi disain karjub juba eos, et "ma olen ehitatud varjatud massjälgimiseks", siis on eetiline suund paigas.

Iga kord, kui mõni uus tehnoloogia välja tuleb, peaksime küsima, kes on see võim, kes seda kontrollib, ja kelle peal seda rakendatakse. See Silicon Valley jutt "me oleme lihtsalt platvorm" on sageli üks suur ja mugav vabandus, et mitte vastutada selle eest, mis koletisi nad tegelikult maailma lahti lasevad.