De ontwikkeling van Artificial Intelligence (AI) bevindt zich in een nieuw stadium. Terwijl ondernemers massaal de kans grijpen om de moderne technologie in hun bedrijfsvoering te integreren, groeit ook de schaduwzijde ervan: het aantal situaties waarin AI-systemen schade veroorzaken, neemt snel toe. AI kent tot dusver echter geen rechtspersoonlijkheid en kan daarom niet aansprakelijk worden gesteld. Er bestaat veel onenigheid over de wenselijkheid van een rechtspersoon zonder menselijke maat. De discussie is actueler dan ooit, nu de president van Argentinië in de Financial Times openlijk pleit voor een radicaal nieuwe koers.
Een schild voor het algoritme
Terwijl de Europese Unie kiest voor strenge risicobeheersing met de AI-verordening, gooit de Argentijnse president Javier Milei het over een andere boeg. In een opiniebijdrage in de Financial Times schrijft hij over het recente wetsvoorstel waarmee zijn regering een revolutionair concept in het ondernemingsrecht introduceert: de ‘niet-menselijke vennootschap’ (non-human corporation). Met dit voorstel wil Milei rechtspersoonlijkheid met beperkte aansprakelijkheid toekennen aan de AI-vennootschappen die volledig worden aangestuurd door autonome AI-agenten of robots. De president ziet dit niet als een futuristisch experiment, maar als een absolute randvoorwaarde voor de hedendaagse economie.
Het toekennen van rechtspersoonlijkheid aan AI biedt immers grote voordelen volgens Milei. Wanneer een autonoom AI-systeem schade veroorzaakt of contracten afsluit, ontstaat er nu vaak een juridisch vacuüm. Slachtoffers kunnen de AI-entiteit niet rechtstreeks aansprakelijk stellen en daarom ook geen schade verhalen. Bovendien bestaat er grote onduidelijkheid over waar in dergelijke gevallen de schuld ligt: bij de programmeur, de eigenaar of de gebruiker. Door AI rechtspersoonlijkheid te verlenen, krijgt het een duidelijke juridische status en worden deze problemen verholpen. Tevens stimuleert de bijbehorende beperkte aansprakelijkheid innovatie. Ondernemers durven grensverleggende risico’s te nemen als zij geen direct persoonlijk faillissement riskeren. Dat is onmisbaar voor het effectief en onafhankelijk opereren van AI-systemen, aldus Milei.
Risico(-aansprakelijkheid)
Aan deze constructie kleven echter ook aanzienlijke risico’s. Het grootste gevaar schuilt in het ontbreken van een menselijke maat. AI voelt geen morele verantwoordelijkheid, kent geen ethisch kompas en kan niet strafrechtelijk worden gedetineerd. Tegelijkertijd krijgt deze AI-rechtspersoon wel vergaande bevoegdheden: het voeren van internationale handel, het aannemen van werknemers, het beheren van vermogen en het zelfstandig optreden als procespartij in de rechtszaal. Anders dan traditionele ondernemingen zullen zij dit kunnen doen zonder enige menselijke inbreng of aansprakelijkheid van bestuurders. Grote techbedrijven zouden misbruik kunnen maken van de situatie door risicovolle AI-operaties onder te brengen in lege ‘niet-menselijke’ vennootschappen. Als het misgaat en de AI failliet gaat, blijven slachtoffers met lege handen achter, terwijl de werkelijke profiteurs buiten schot blijven. Dit creëert een onrechtvaardig schild dat de menselijke verantwoordelijkheid bijna helemaal uitholt.
Dit risico op strategisch misbruik roept de vraag op of het ontwikkelen van een nieuwe rechtspersoon wel de juiste oplossing is voor het aansprakelijkheidsvacuüm. Het vermogensrecht beschikt immers al over mechanismen om schade door onvoorspelbare, autonome objecten op te vangen zonder dat deze direct tot ‘persoon’ hoeven te worden gepromoveerd. Een voorbeeld hiervan is de risico-aansprakelijkheid voor gebrekkige producten of het handelen van dieren. In plaats van de mens volledig uit de juridische keten weg te snijden, zou de wetgever er ook voor kunnen kiezen om de risico-aansprakelijkheid van de achterliggende producent of gebruiker wettelijk te verankeren.
Het heft in eigen hand
De koers die Javier Milei voorstelt is onmiskenbaar gedurfd en dwingt juristen om out-of-the-box te denken over de grenzen van het ondernemingsrecht. Toch moeten we waken voor technologische overmoed. Of men AI nu gaat reguleren via strenge banden, zoals in de Europese AI-verordening, of dat men de systemen juist lossnijdt van hun makers via een niet-menselijke vennootschap: de uiteindelijke beslissing ligt bij de wetgever. Rechtspersoonlijkheid is geen natuurverschijnsel, maar een juridische fictie die door mensen is bedacht en door mensen wordt toegekend. Zolang AI zichzelf geen wetten kan opleggen, ligt het heft om de grenzen van de technologische vooruitgang te bepalen nog altijd in menselijke hand.
