IT-beslissers roepen op tot verantwoorde en ethische AI-ontwikkeling

Ethische en verantwoorde ontwikkeling van artificiële intelligentie (AI) is een prioriteit voor IT-beslissers. Dit blijkt uit onderzoek van SnapLogic. 94% van de beslissers vindt dat er meer aandacht moet zijn voor de ethische kant van AI. Daarnaast vindt 87% dat de ontwikkeling van AI moet worden gereguleerd om zo de belangen van bedrijven, overheden en burgers optimaal te dienen.

Het onderzoek, uitgevoerd door Vanson Bourne in opdracht van SnapLogic, bestudeerde de standpunten van IT-beslissers in verschillende bedrijfstakken en stelde belangrijke vragen zoals: wie heeft de primaire verantwoordelijkheid om ervoor te zorgen dat AI op ethische en verantwoorde wijze wordt ontwikkeld, Gaan samenwerkingen tussen wereldwijde experts invloed hebben op de toekomstige ontwikkeling van AI, en moet AI worden gereguleerd en zo ja door wie?

Wie is verantwoordelijk?

Op de vraag wie er verantwoordelijk is voor de ethische ontwikkeling van AI-systemen, gaf 53% van de respondenten aan dat de bedrijven die de systemen ontwikkelen verantwoordelijk zijn, ongeacht of dit een commerciële of wetenschappelijke organisatie is. 17% vindt dat de individuele werknemer die werkt aan het project verantwoordelijk is.

Daarnaast vindt 16% dat een onafhankelijk, wereldwijd consortium, bestaande uit vertegenwoordigers van overheden, onderzoeksinstellingen, organisaties en academici, de enige manier is om eerlijke regelgeving en protocollen op te stellen om verantwoorde en ethische ontwikkeling van AI te garanderen. 11% vindt dat de verantwoordelijkheid moet liggen bij de overheden van de landen waarin de systemen worden ontwikkeld.

Onafhankelijke leiding en expertise

Sommige onafhankelijke, regionale initiatieven bieden al AI-ondersteuning, leiding en overzicht, bijvoorbeeld de European Commission High-Level Expert Group on Artificial Intelligence. IT-beslissers zien dit als een positieve stap in het adresseren van de ethische problemen rondom AI. De helft denkt dat organisaties die AI ontwikkelen zich zullen laten leiden door de aanbevelingen van dergelijke experts. Ook denkt 55% dat deze groepen ervoor zullen zorgen dat organisaties die AI ontwikkelen beter gaan samenwerken.

Oproep tot regulering

87% van de IT-beslissers vindt dat AI moet worden gereguleerd, waarbij 32% aangeeft dat dit moet worden gedaan door een samenwerking tussen overheid en de sector. 25% geeft aan dat regulering de verantwoordelijkheid is van een onafhankelijk consortium binnen hun sector.

Sommige sectoren staan welwillender tegenover regulering dan andere. 18% van de IT-beslissers in de manufacturing is tegen regulering van AI, gevolgd door 13% in de technologie-, retail-, distributie- en transportsectoren. Redenen hiervoor zijn de overtuiging dat regulering AI-innovatie zal vertragen en dat AI-ontwikkeling naar goeddunken van de organisaties moet gebeuren.

Verantwoordelijke AI-ontwikkeling

Gaurav Dhillon, CEO van SnapLogic, zegt hierover: “AI is de toekomst en heeft nu al veel impact op bedrijven en de maatschappij. Maar zoals met iedere snelle ontwikkeling, bestaat ook hier de mogelijkheid dat het wordt gebruikt voor immorele, kwaadaardige of onbedoelde zaken. AI-innovatie moet floreren, maar we moeten de potentiële risico’s beheren en ervoor zorgen dat AI zich op de juiste manier ontwikkelt.”

Dhillon vervolgt: “Zorgen over datakwaliteit, veiligheid en privacy zijn terecht en het debat over regulering zal blijven bestaan. Maar AI draait op data – het vereist continu toegang tot grote hoeveelheden data die vrijelijk vloeit tussen verschillende systemen om effectief het AI-systeem te trainen en in te zetten. Regulering heeft voordelen en is nodig, maar het moet met zorg worden geïmplementeerd, zodat de datatoegang en informatieflow blijft bestaan. Anders draaien AI-systemen op incomplete of foutieve data, waardoor de vooruitgang van AI-innovatie wordt gedwarsboomd.”