Ismert tény, hogy ha a képfelismerÅ‘ algoritmusok egy konyhát érzékelnek, akkor azt automatikusan a nÅ‘kkel hozzák kapcsolatba és például a további ajánlásoknál így kezelik a felhasználót. A számítógépek és a szoftverek az emberek által létrehozott adatbázisokból és mintákból tanulnak, így az emberek elÅ‘ítéleteit is átveszik. Joy Buolamwini, az MIT Media Lab kutatója és az Algorithmic Justice League vezetÅ‘je, a szervezet a gépi tanuláson alapuló rendszerek elÅ‘ítéletei és sztereotípiái ellen harcol. Hasonlóképpen tesz az IBM programja is, amely azt vizsgálja, hogy a technológia által hozott döntések elÅ‘ítéletesek-e és ha igen, mennyire. A kérdés azért is fontos, mert egyre többször hoznak meg fontos döntéseket algoritmusok, amelyek különösen az oktatás, az igazságügy és egészségügy területén kapnak komoly szerepet. Szintén az elÅ‘ítéletes algoritmusok ellen küzd a Google.

Az MIT szakértÅ‘i megállapították, hogy az általuk megvizsgált igazságügyi, banki és más algoritmusok esetenként elÅ‘ítéletesek például az alacsony jövedelműekkel szemben, ha az érintettek hitelt kérnek, állásajánlatra jelentkeznek vagy bíróság elÅ‘tt állnak. Egy szegényebb személy például kisebb eséllyel fog óvadék ellenében szabadulni az elÅ‘zetes letartóztatásból.

A kutatók ugyanakkor nem csak tanulmányozták az ilyen eseteket, hanem kifejlesztettek a mesterséges intelligenciához egy programozási nyelvet is, amely az eddigieknél pontosabban és gyorsabban tudja megállapítani, hogy egy adott algoritmus igazságosan járt-e el egy ügyben vagy sem. A Sum Product Probabilistic Language (SPPL) elsÅ‘sorban azért készült, hogy lehetÅ‘vé tegye a mesterséges intelligencia rendszerek egyszerűbb kifejlesztését. Az SPPL már számos sikert könyvelt el az adattisztítás és az automatizált adatmodellezés területén.

Feras Saad, az MIT doktorandusza rámutatott, hogy ugyan vannak már hasonló fejlesztések, de az Å‘ rendszerük bizonyos modellekre van specializálva és optimalizálva, így ezerszer gyorsabban tud megoldásokat szállítani. Az SPPL így gyorsan és pontosan tud válaszolni olyan kérdésekre, mint: mennyire valószínű, hogy az adott modell egy 40 évesnél idÅ‘sebb személynek is hitelt fog ajánlani, vagy jelenthet-e problémát egy elbírálásnál, ha az illetÅ‘ bevándorló vagy sem.

A fejlesztést vezetÅ‘ Vikash Mansinghka leszögezte, hogy az SPPL megmutatja, hogy a pontos valószínűségi következtetések elkészítése az ezzel foglalkozó szoftverek esetében nem csupán elméletben, hanem a gyakorlatban is lehetséges.