Machine learning kan positieve verandering in de samenleving mogelijk maken, zegt Adam Benzion, Chief Experience Officer bij Edge Impulse. Lees verder om te ontdekken hoe het bedrijf onethisch gebruik van zijn ML/AI ontwikkelingsplatform voorkomt. 

Adam Benzion on ethics and machine learning
Adam Benzion (Chief Experience Officer, Edge Impulse)

Priscilla Haring-Kuipers: Aan welke ethiek in elektronica werk je?

Adam Benzion: Bij Edge Impulse proberen we ons werk te verbinden met een goed doel in de wereld als een kernwaarde van onze cultuur en bedrijfsfilosofie. Onze oprichters, Zach Shelby en Jan Jongboom definiëren dit als "Machine learning kan een positieve verandering in de samenleving mogelijk maken, en we zetten ons in om toepassingen voor het goede doel te ondersteunen." Dit is fundamenteel voor wat en hoe we dingen doen. We investeren onze middelen om initiatieven te steunen als UN Covid-19 Detect & Protect, Data Science Africa, en wildlife conservation met Smart Parks, Wildlabs, en ConservationX.

Dit betekent ook dat we de verantwoordelijkheid hebben om onethisch gebruik van ons ML/AI ontwikkelingsplatform te voorkomen. Toen Edge Impulse in januari 2020 gelanceerd werd, besloten we voor onze gebruikers een Responsible AI Licentie verplicht te stellen, die gebruik voor criminele doeleinden, surveillance, of schadelijke militaire of politietoepassingen verhindert. We hebben een paar gevallen gehad waarin we een project afwezen dat niet compatibel was met deze licentie. Er zijn ook veel positieve toepassingen voor ML in overheids- en defensietoepassingen, die we wel steunen als ze compatibel zijn met onze waarden.

We hebben ons ook aangesloten bij 1% for the Planet, waarmee we beloven 1% van onze inkomsten te doneren aan non-profitorganisaties die zich op het milieu richten. Persoonlijk leid ik een initiatief dat gericht is op het behoud van olifanten, waarbij we samenwerkten met een organisatie die Smart Parks heet en hielpen bij de ontwikkeling van een nieuwe AI-gestuurde tracking halsband die acht jaar kan meegaan en gebruikt kan worden om te begrijpen hoe olifanten met elkaar communiceren. Deze wordt nu in parken in heel Mozambique ingezet.

Haring-Kuipers: Wat is de belangrijkste ethische vraag op je vakgebied?

Benzion: Er zijn heel wat ethische problemen met het gebruik van AI bij bevolkingstoezicht, bij het herkennen en opsporen van mensen, laat staan bij AI-aangedreven wapentuig. Vooral waar we de menselijke veiligheid en waardigheid raken, moeten AI-gestuurde toepassingen zorgvuldig geëvalueerd, bij wet geregeld en gereguleerd worden. We dromen van automatisering, leuke magische ervaringen, en door mensen ondersteunde technologieën die dingen beter, sneller en tegen minder kosten doen. Dat is de goede AI droom, en dat is wat we allemaal willen bouwen. In een perfecte wereld zouden we allemaal moeten kunnen stemmen over de regels en voorschriften die voor AI gelden.

Haring-Kuipers: Wat zou je willen opnemen in een Ethische Code voor Elektronica?

Benzion: We moeten kijken naar de invloed van AI op mensenrechten en op de aansprakelijkheid van machines, oftewel, wanneer door AI aangedreven machines falen, zoals in het geval van autonoom rijden, wie neemt dan de schuld op zich? Zonder universele richtlijnen om ons te steunen is het aan elk bedrijf op dit gebied om zijn kernwaarden en grenzen te vinden, zodat we allemaal van deze boeiende nieuwe trend kunnen profiteren.

Haring-Kuipers: Een onmogelijke keuze ... De belangrijkste vraag voordat je iets bouwt is ? A) Moet ik dit bouwen? B) Kan ik dit bouwen? C) Hoe kan ik dit bouwen?

Benzion: A. Binnen redelijke grenzen kun je bijna alles bouwen, dus vraag je af: Is de inspanning versus het resultaat je kostbare tijd waard?

Over de auteur

Priscilla Haring-Kuipers schrijft over technologie vanuit een sociaal-wetenschappelijk perspectief. Ze is vooral geïnteresseerd in technologie die het goede in de mensheid ondersteunt en een groot aanhanger van effectonderzoek. Ze heeft een MSc in Mediapsychologie en maakt dingen niet moeilijker dan ze zijn. 

WEEF 2022

WEEF 2022

Het World Ethical Electronics Forum (WEEF 2022), dat gepland staat voor november 2022, zal voortbouwen op het succes van het evenement van vorig jaar, waar technici van Elektor en andere vooraanstaande denkers discussieerden over ethiek en de doelstellingen van duurzame ontwikkeling. De komende maanden publiceert Elektor artikelen, interviews en opiniepeilingen over ethiek die tot nadenken stemmen. Bezoek de WEEF 2022 website (www.elektormagazine.com/weef) voor meer details.


Vertaling: Hans Adams