Belang van open source bij artificiële intelligentie

Belang van open source bij artificiële intelligentie

Er wordt natuurlijk veel over geschreven en gezegd: artificiële intelligentie.

Zo vindt Elon Musk, founder van Telsa en SpaceX, artificiële intelligentie gevaarlijker dan kernwapens. De roep om regulering wordt langzaam aan groter. Zo ligt er zelfs al een tijdje een rapport van een commissie van het Europees parlement waarin voorgesteld wordt om robots en artificiële intelligentie dragers van rechten en verplichtingen te maken, rechtssubjecten. Hoe realistisch dat is, zal tijd moeten uitwijzen. Maar de ervaring leert dat alle technologische vooruitgang een keer gereguleerd wordt. Denk alleen al aan de irritante cookie-popups.

De angst is natuurlijk dat er straks apparaten beschikbaar zijn, waarvan we eigenlijk niet weten hoe betrouwbaar die zijn. En dan met name als het gaat om de beslissingen de genomen worden door de apparaten. We weten niet op basis waarvan er beslissingen genomen worden, hoe die beslissingen genomen worden, met welke foutmarges er rekening gehouden wordt, of er nog checks en of dubbelchecks worden uitgevoerd, etc. De angst is dat we overgeleverd zijn aan de nukken en grillen van artificiële intelligentie, en straks als mens zelfs het onderspit kunnen delven.

Die angst lijkt ons gegrond als het gaat om apparaten die door één fabrikant zijn gebouwd, waarbij de fabrikant geen verantwoording aflegt over de zaken zoals hiervoor aangestipt. De grootste verantwoording die je als fabrikant kunt afleggen, is inzicht geven in de programmatuur die het apparaat in zich heeft om te komen tot beslissingen. Onderdeel van regelgeving zou derhalve kunnen zijn dat de programmatuur van de in deze blog bedoelde apparaten vrijelijk verkrijgbaar moet zijn. Op die wijze kan een ieder verifiëren hoe bepaalde beslissingen tot stand zijn gekomen.

Dat principe kennen we natuurlijk al bij open source. Het grote voordeel van open source is dat een ieder kennis kan nemen van de programmatuur, en hoe die programmatuur werkt. Een fout kan snel gezien worden, maar ook snel gerepareerd worden door een actieve groep bijdragers. Open source zou derhalve een belangrijk aanjager van acceptatie van artificiële intelligentie kunnen zijn, en wellicht een (wettelijke) voorwaarde om het apparaat te laten deelnemen aan het maatschappelijk verkeer of rechtsverkeer.