Ghebreab is een gerenommeerde wetenschapper die wereldwijd bekend staat om zijn interdisciplinaire en sociaal geëngageerde werk op het gebied van AI. Hij richt zich op het identificeren van manieren waarop AI-systemen bestaande ongelijkheden in de samenleving weerspiegelen of versterken. Hij zet zich ook in om AI-systemen te gebruiken om deze ongelijkheden te helpen bestrijden.

AI heeft de mogelijkheden om de samenleving ten goede te veranderen - maar alleen als het wordt ontworpen, ontwikkeld en ingezet met zorgvuldige aandacht voor de waarden en behoeften van mensen en gemeenschappen. Een vereiste is dat AI menselijke en publieke waarden leert en ondersteunt, waarbij rekening gehouden moet worden met de sociale, culturele, economische en politieke diversiteit tussen mensen en gemeenschappen. Deze fundamentele wetenschappelijke uitdaging staat centraal in het werk van Ghebreab als hoogleraar Socially Intelligent AI. Zijn onderzoek bevindt zich op het snijpunt van twee grote transformaties: de diversificatie en de digitalisering van de samenleving. Terwijl de samenleving demografisch blijft veranderen, krijgt technologie steeds meer invloed. Het doel van sociaal intelligent AI-onderzoek is om technologie te creëren die het algemeen belang op een rechtvaardige en inclusieve manier bevordert.

Ghebreab: ‘Hoewel het betreurenswaardig is dat AI-systemen mensen discrimineren en bijdragen aan maatschappelijke ongelijkheid, zijn diezelfde systemen momenteel puur een afspiegeling van de samenleving. Ze laten de fundamentele gebreken zien die daarin bestaan en bieden een unieke kans om die gebreken te kwantificeren en aan te pakken.’

De laatste jaren zijn AI-systemen in alle sectoren van de samenleving doorgedrongen. De publieke, burgerlijke, particuliere, overheids- en financiële sector – doen in toenemende mate een beroep op AI. De potentiële voordelen zijn enorm, maar tegelijkertijd veroorzaken AI-systemen onrust en roepen ze sociale, juridische en ethische problemen op.

Er bestaan zorgen over de betrouwbaarheid van AI-systemen, inclusief de gevaren van het codificeren en versterken van bestaande vooroordelen, bijvoorbeeld over geslacht en ras. Er zijn ook zorgen over AI-systemen in combinatie met het schenden van mensenrechten en waarden, zoals solidariteit, waardigheid, integriteit en gelijkheid. Als oprichter en wetenschappelijk directeur van het Civic AI Lab werkt Ghebreab al enige tijd samen met de gemeente Amsterdam en het ministerie van Binnenlandse Zaken om deze vraagstukken aan te pakken en problemen op verschillende terreinen aan te pakken. Denk aan de gezondheidszorg, onderwijs, mobiliteit en milieu.

Ghebreab: ‘Om ervoor te zorgen dat AI een positieve impact heeft op de samenleving, is het essentieel dat we samenwerken met kennisinstellingen, overheden, het maatschappelijk middenveld en individuen van alle achtergronden. Hoewel AI het vermogen heeft om van zichzelf te leren en te verbeteren, is het uiteindelijk echt aan ons - burgers, patiënten, consumenten en anderen- om ervoor te zorgen dat het goed wordt ontwikkeld en ingezet voor iedereen.'

Over Sennay Ghebreab

Ghebreab promoveerde in 2001 aan de UvA op informatica en medische beeldvorming. Van 2002 tot 2005 was hij postdoc-onderzoeker aan het Erasmus Medisch Centrum in Rotterdam, waarna hij terugkeerde naar de UvA. Sinds 2005 vervult hij meerdere functies aan de UvA, waaronder universitair docent bij het Instituut voor Informatica en bij het Instituut Psychologie. Hij is hoofd Sociale Wetenschappen van het Amsterdam University College en universitair hoofddocent bij het Instituut voor Informatica.

Hij is lid van de Staatscommissie tegen discriminatie en racisme van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Hij is lid van de Raad van Toezicht van het NEMO Science Museum. Hij zit in adviescommissies, waaronder de Ethische Commissie van de Nationale Politie, en Opvang en Integratie bij VluchtelingenWerk Nederland. De afgelopen jaren werd hij erkend als een van de tweehonderd meest invloedrijke personen in Nederland en ontving hij de Black Achievement Award voor zijn bijdragen aan wetenschap en onderwijs. Hij ontving subsidies van onder meer de NWO en Horizon Europe.