Vi står inför en avgörande tidpunkt i historien, där vi bygger maskiner med intellekt som snart kan överträffa de skarpaste mänskliga hjärnorna. Frågan är inte längre om vi kan bygga dessa system, utan hur vi gör det utan att förlora vår mänsklighet. Vad händer om dessa maskiner saknar en djup och tidlös värdegrund? Faran ligger i att vi utvecklar AI baserad på instabila och ofullständiga principer, vilket kan leda till att tekniken tar över utan att förstå eller respektera människolivets värdighet.

AI har en enorm potential att förbättra världen. Från hälso- och sjukvård till rättssystem har tekniken redan visat sig kunna analysera data på sätt som människor aldrig kan. Men när AI går från att vara ett verktyg till att fatta självständiga beslut, uppstår omedelbara etiska frågor. Hur kan vi lita på att maskiner gör rätt val när de saknar en moralisk kompass?

Historien är fylld av exempel på teknik som har utvecklats snabbare än våra etiska ramar. Kärnvapen är ett tydligt exempel. Även om de gav militär överlägsenhet, har de också gjort mänskligheten sårbar för total förintelse. På liknande sätt riskerar AI att, om det utvecklas utan en robust värdegrund, förlora sin funktion som ett verktyg för mänskligheten och istället bli ett hot mot den.

AI lär sig själv genom maskininlärning, men saknar förståelse för de mänskliga konsekvenserna av sina beslut. Ett aktuellt exempel är autonoma vapensystem, även kända som "killer robots", där maskiner fattar livsavgörande beslut utan mänsklig inblandning. Om dessa system programmeras felaktigt eller tränas med partisk data, kan resultatet bli förödande. I rapporter från MIT framhåller forskare just detta etiska problem — AI saknar förmågan att förstå den djupare meningen bakom sina handlingar.

Detta blir särskilt tydligt inom rättssystemet, där AI används för att identifiera brottslingar. Ansiktsigenkänningsteknik har visat sig vara partisk mot etniska minoriteter, vilket lett till orättvisa domar och felaktiga straff. Om vi fortsätter att utveckla AI på denna grund riskerar vi att förstärka existerande fördomar och ojämlikhet snarare än att lösa dem.

Rekrytering är ett annat område där AI-system används för att förutsäga kandidaters lämplighet baserat på historiska data. Men om denna data är färgad av tidigare diskriminering, kan AI reproducera samma orättvisor.

Ett av de största problemen är att AI kan utveckla autonomi, vilket innebär att det fattar beslut utan mänsklig övervakning. Frågan blir då: Vem ansvarar för AI:s handlingar när något går fel? Vi har ännu inte ett svar på detta, men vi måste adressera det innan AI ges mer makt i våra samhällen.

Vi ser redan exempel på hur AI används för övervakning och kontroll, särskilt i auktoritära stater. Kina använder AI för att övervaka och begränsa medborgarnas friheter. Om dessa system sprids globalt, riskerar vi att skapa en värld där AI-system kontrollerar människor istället för att tjäna dem.

Koranen påminner oss om att människan har en unik värdighet:

"Vi har verkligen hedrat Adams barn och fört dem över land och hav och försett dem med goda gåvor" (Koranen 17:70).

Människolivet är heligt och vi måste vara försiktiga med att utveckla teknologier som inte respekterar denna värdighet.

Aristoteles talade om vikten av "praktisk visdom" – förmågan att förstå vad som är rätt i en viss situation, baserat på erfarenhet och moral. AI, oavsett hur avancerat det blir, kan aldrig utveckla denna typ av visdom. Maskiner kan analysera och räkna, men de saknar förmågan att känna empati, förståelse och kärlek – alla egenskaper som behövs för att fatta beslut som rör människors liv.

Koranen varnar oss även för att överge vårt ansvar:

"Och de som var svaga säger till de som varit stolta: 'Nej, det var era planer dag och natt, att vi skulle förneka Gud och göra Honom jämlik'" (Koranen 34:33).

Vi har en plikt att utveckla teknik som tjänar mänskligheten, inte som undergräver den.

Teknik i sig är neutral, men hur vi använder den speglar våra värderingar. Om vi bygger AI utan en stark och tidlös värdegrund, riskerar vi att förlora kontrollen över maskiner som inte kan förstå oss, och som en dag kan fatta beslut som vi inte längre har makt att stoppa.