Algoritmi jau pieņem lēmumus cilvēku labā, un tas kļūst dīvaini

(Jurijs Parmenovs/iStock)

Es joprojām atceros savu pārsteigumu, kad evolūcijas biologa Pītera Lorensa grāmata ar nosaukumu Mušu veidošana Amazon cena bija 23 698 655,93 USD (plus 3,99 USD piegāde).

Lai gan mani kolēģi visā pasaulē bija kļuvuši diezgan nomākti par to, ka akadēmiska grāmata var sasniegt šādu varoņdarbu, krasā cena patiesībā bija algoritmu rezultāts, kas barojās viens no otra un izgāja no kontroles. Izrādās, ka ne tikai pārdošanas personāls bija radošs: algoritmi izsauca šāvienu.

Šis uzkrītošais piemērs tika pamanīts un izlabots. Bet ko darīt, ja šādi algoritmiski traucējumi notiek visu laiku, tostarp tādos veidos, kurus mēs pat nepamanām? Ja mūsu realitāti arvien vairāk veido algoritmi, kur tas mūs atstāj par cilvēkiem?



Iedvesmojoties no šādiem piemēriem, mans kolēģis Profesors Alens Lī un es nesen sāku izpētīt algoritmiskās tehnoloģijas dziļākos efektus papīrā iekš Informācijas sistēmu asociācijas žurnāls .

Mūsu izpēte lika mums secināt, ka laika gaitā informācijas tehnoloģiju un cilvēku lomas ir mainījušās. Agrāk mēs, cilvēki, izmantojām tehnoloģiju kā rīku. Tagad tehnoloģijas ir attīstījušās tiktāl, ka tās izmanto un pat kontrolē mūs.

Mēs, cilvēki, esam ne tikai atdalīti no lēmumiem, ko mašīnas pieņem mūsu vietā, bet arī mūs ļoti neparedzamā veidā ietekmē. Tā vietā, lai mēs būtu centrālie lēmumu sistēmā, kas mūs ietekmē, mēs tiekam izmesti tās vidē.

Mēs esam pakāpeniski ierobežojuši savu lēmumu pieņemšanas spēju un ļāvuši algoritmiem pārņemt vadību. Mēs esam kļuvuši par mākslīgiem cilvēkiem jeb cilvēku artefaktiem, kurus rada, veido un izmanto tehnoloģija.

Piemēri ir daudz. Likumā, Juridiskie analītiķi pakāpeniski tiek nomainīti autors mākslīgais intelekts , kas nozīmē, ka lietas veiksmīga aizstāvēšana vai apsūdzība daļēji var balstīties uz algoritmiem.

Programmatūra ir pat atļauta prognozē nākotnes noziedzniekus , kas galu galā kontrolē cilvēka brīvību, veidojot veidu, kā ieslodzītajiem tiek liegta vai piešķirta nosacīta atbrīvošana. Tādā veidā tiesnešu prātus veido lēmumu pieņemšanas mehānismi, kurus viņi nevar saprast, jo process ir sarežģīts un cik daudz datu tas ietver.

Darba tirgū pārmērīga paļaušanās uz tehnoloģijām ir novedusi pie dažiem pasaules lielākajiem uzņēmumiem filtrēt CV, izmantojot programmatūru , kas nozīmē, ka cilvēku vervētāji nekad pat nepaskatīsies uz dažiem potenciālo kandidātu datiem. Tas ne tikai pakļauj cilvēku iztikas līdzekļus mašīnu žēlastībai, bet arī var radīt aizspriedumus darbā pieņemšanā, ko uzņēmums nevēlējās īstenot, jo notika ar Amazon .

Ziņās tas ir zināms kā automatizēta sentimenta analīze analizē pozitīvos un negatīvos viedokļus par uzņēmumiem, pamatojoties uz dažādiem tīmekļa avotiem. Savukārt tos izmanto tirdzniecības algoritmi, kas pieņem automatizētus finanšu lēmumus, cilvēkiem neliekot faktiski lasīt ziņas.

Neparedzētas sekas

Faktiski algoritmiem, kas darbojas bez cilvēka iejaukšanās, tagad ir nozīmīga loma finanšu tirgos. Piemēram, 85 procenti no visas tirdzniecības valūtas tirgos veic tikai ar algoritmiem.

Pieaugošais algoritmiskās bruņošanās sacensības attīstīt arvien sarežģītākas sistēmas, lai konkurētu šajos tirgos, nozīmē, ka saskaņā ar mašīnu lēmumiem tiek piešķirtas milzīgas naudas summas.

Nelielā mērogā cilvēki un uzņēmumi, kas veido šos algoritmus, spēj ietekmēt to, ko viņi dara un kā viņi to dara.

Taču, tā kā liela daļa mākslīgā intelekta ir saistīta ar programmatūras programmēšanu, lai izdomātu, kā pats paveikt uzdevumu, mēs bieži vien nezinu tieši to, kas slēpjas aiz lēmumu pieņemšanas. Tāpat kā ar visām tehnoloģijām, tas var radīt neparedzētas sekas, kas var pārsniegt visu, ko dizaineri jebkad bija paredzējuši.

Ņemiet vērā Dow Jones industriālā vidējā indeksa 2010. gada “zibens sabrukumu”. Algoritmu darbība palīdzēja radīt indeksa lielāko lejupslīdi tā vēsturē, noslaukot gandrīz 9 procentus samazināja vērtību minūtēs (lai gan dienas beigās tas lielāko daļu no tā atguva). A piecu mēnešu izmeklēšana varēja tikai ieteikt, kas izraisīja lejupslīdi (un dažādas citas teorijas ir ierosināti ).

Bet algoritmi, kas pastiprināja sākotnējās problēmas, nekļūdījās. Programmēšanā nebija kļūdu. Uzvedība radās, mijiedarbojoties miljoniem algoritmisku lēmumu, kas neparedzamā veidā izspēlē viens otru, sekojot savai loģikai tādā veidā, kas radīja tirgum lejupejošu spirāli.

Apstākļi, kas to padarīja iespējamu, radās tāpēc, ka gadu gaitā cilvēki, kas vadīja tirdzniecības sistēmu, cilvēku lēmumus bija uzskatījuši par šķērsli tirgus efektivitātei. 1987. gadā, kad ASV akciju tirgus kritās par 22,61 procentu, daži Volstrītas brokeri vienkārši pārtrauca paņemt savus tālruņus, lai nesaņemtu savu klientu rīkojumus pārdot akcijas.

Tas aizsāka procesu, kas, kā savā grāmatā izteicās autors Maikls Lūiss Flash Boys , ir beidzies ar to, ka datori pilnībā aizstāj cilvēkus.

Finanšu pasaule ir ieguldījusi miljonus superātros kabeļos un mikroviļņu sakari lai tikai milisekundes samazinātu ātrumu, ar kādu algoritmi var pārsūtīt savus norādījumus. Kad ātrums ir tik svarīgs, cilvēks, kuram ir vajadzīgas milzīgas 215 milisekundes, lai noklikšķinātu uz pogas, ir gandrīz pilnīgi lieks.

Mūsu vienīgais atlikušais mērķis ir pārkonfigurēt algoritmus katru reizi, kad tehnoloģisko lēmumu sistēma neizdodas.

Tā kā starp cilvēkiem un tehnoloģijām tiek novilktas jaunas robežas, mums rūpīgi jāpārdomā, kur mūs ved mūsu lielā paļaušanās uz programmatūru. Tā kā cilvēku lēmumi tiek aizstāti ar algoritmiskiem lēmumiem un mēs kļūstam par instrumentiem, kuru dzīvi veido mašīnas un to neparedzētās sekas, mēs nosakām sevi tehnoloģiju dominēšanai.

Mums ir jāizlemj, kamēr mēs vēl varam, ko tas nozīmē gan mums kā indivīdiem, gan kā sabiedrībai.

Dionīsijs Demetis , vadības sistēmu pasniedzējs, Hullas Universitāte .

Šis raksts ir pārpublicēts no Saruna saskaņā ar Creative Commons licenci. Lasīt oriģināls raksts .

Šajā rakstā izteiktie viedokļi ne vienmēr atspoguļo Energyefic redakcijas viedokli.

Populārākas Kategorijas: Viedoklis , Daba , Skaidrotājs , Tech , Telpa , Veselība , Vidi , Neklasificēts , Cilvēkiem , Sabiedrību ,

Par Mums

Neatkarīgu, Pārbaudītu Faktu Publicēšana Par Veselību, Telpu, Dabu, Tehnoloģijām Un Vidi.