Als marktleider op het gebied van cloudgebaseerde accountingsoftware, Sage roept de wereldwijde tech-community op om verantwoordelijkheid te nemen voor het op ethische wijze ontwikkelen van Artificiële Intelligentie (AI) voor het bedrijfsleven. In ‘The Ethics of Code: Developing AI for Business with Five Core Principles’ benoemt Sage een reeks waarden waar de tech-community zich volgens het bedrijf aan de vooravond van de 4de industriële revolutie aan zou moeten houden.

De vijf basisprincipes in ‘The Ethics of Code: Developing AI for Business with Five Core Principles’ zijn door Sage opgesteld toen het bedrijf werkte aan de ontwikkeling van een eigen Machine Learning- en AI-programma, waarmee het de financiële administratie van ondernemers vereenvoudigt. “De ethische code beschermt de gebruiker en zet tech-reuzen als Sage ertoe aan Artificiële Intelligentie te ontwikkelen die niet alleen veilig is en aansluit op de use case, maar die bovenal inclusief is en de diversiteit weerspiegelt van de gebruikers voor wie ze is bestemd. Als een leider op het gebied van AI voor het bedrijfsleven willen we andere spelers op de markt – grote en kleine bedrijven net zo goed als hackers – tot de orde roepen en hen vragen deze principes in gedachten te houden bij de ontwikkeling of implementatie van hun eigen Artificiële Intelligentie.” Hierna de 5 key principles.

1. AI moet de diversiteit weerspiegelen van de gebruikers voor wie ze is bestemd.

De industrie en de community moeten effectieve mechanismen ontwikkelen voor het uitfilteren van vooringenomenheid en negatieve sentimenten in de data die als leerstof dient voor AI. Zo kan worden voorkomen dat AI stereotypen in stand houdt.

2. AI moet ter verantwoording worden geroepen – maar gebruikers ook

Gebruikers bouwen een relatie op met AI en zijn geneigd er al na een paar betekenisvolle interacties op te gaan vertrouwen. Vertrouwen brengt verantwoordelijkheid met zich mee en AI moet aansprakelijk worden gehouden voor zijn acties en besluiten, net als mensen. Technologie mag niet zo slim worden dat ze niet meer aansprakelijk is. We accepteren dergelijk gedrag niet van andere ‘ hoog deskundige’ beroepen, dus waarom zou technologie een uitzondering moeten zijn?

3. AI belonen voor het tonen van zijn manier van werken

Elk AI-systeem dat leert op basis van slechte voorbeelden kan uiteindelijk sociaal onaanvaardbaar worden. We mogen niet vergeten dat AI in de meeste gevallen niet begrijpt wat het zegt. Dit kan alleen worden opgelost door gevarieerd te luisteren en te leren op basis van diverse gegevensverzamelingen.

Een van de methoden is het ontwikkelen van een beloningsmechanisme voor het trainen van AI. Methoden om te leren door bekrachtiging moeten niet uitsluitend worden ontwikkeld op basis van wat AI of robots doen om resultaat te behalen, maar ook op hoe AI en robots zich richten naar menselijke waarden om dat specifieke resultaat te behalen.

4. AI moet gelijkwaardigheid bevorderen

Spraaktechnologie en sociale robots voorzien in nieuw toegankelijke oplossingen, met name voor mensen die een handicap hebben zoals beperkt zicht, dyslexie en verminderde mobiliteit. De zakelijke tech-community moet de ontwikkeling van nieuwe technologieën versnellen om gelijkwaardigheid te bevorderen en de groep beschikbaar talent te verbreden.

5. AI vervangt, maar moet ook creëren

De robotificatie van taken biedt nieuwe kansen waar we mensen voor moeten trainen. Als het bedrijfsleven en AI samenwerken, kunnen mensen zich richten op waar ze goed in zijn: relaties opbouwen en zorg dragen voor klanten.

“De mens heeft altijd tools en technologie gebruikt. Lang geleden ontwierp de mens gereedschap dat ons hielp om nog meer werktuigen te ontwikkelen. Nu hebben we computers en machines die tools ontwikkelen om ons nog verder te brengen,” verklaart Alex Dossche, CEO van Sage België. “Het is dus geen verhaal van mens versus machine, zoals vaak gedacht wordt, of van machines die mensen vervangen. Het gaat om machines die mensen helpen eenvoudiger, sneller, preciezer en veiliger te werken. Artificiële Intelligentie en Machine Learning zullen ons helpen om enkel te ontwikkelen wat wij willen ontwikkelen. Chatbots zullen enkel assisteren wanneer wij dit willen.”