Bara nio gigantiska teknikföretag i USA och Kina står bakom de allra flesta framstegen inom artificiell intelligens världen över. I hennes nya bok, The Big Nine: Hur Tech Titans och deras tänkande maskiner kunde förvränga mänskligheten (PublicAffairs, 5 mars), Amy Webb föreställer sig tre möjliga framtidar, allt från optimistiska till apokalyptiska, som kan bero på de åtgärder vi vidtar - eller inte tar - för att kontrollera utvecklingen av A.I. och forma dess globala påverkan. I det här utdraget lägger hon fram en serie tuffa etiska frågor som människorna bygger A.I. system bör använda för att styra sitt arbete.
Reglerna - algoritmen - enligt vilken varje kultur, samhälle och nation lever och någonsin har levt, skapades alltid av bara några få människor. Demokrati, kommunism, socialism, religion, veganism, nativism, kolonialism - det är konstruktioner som vi har utvecklat genom historien för att styra våra beslut. Även i bästa fall är de inte framtidssäkra. Tekniska, sociala och ekonomiska krafter griper alltid in och får oss att anpassa oss.
De tio budorden utgör en algoritm som syftar till att skapa ett bättre samhälle för människor vid liv för mer än 5000 år sedan. Ett av buden är att ta en hel vilodag i veckan och inte göra något arbete den dagen. I modern tid arbetar de flesta inte exakt samma dagar eller timmar från vecka till vecka, så det skulle vara omöjligt att inte bryta mot regeln. Som ett resultat är människor som följer de tio budorden som en vägledande princip flexibla i sin tolkning, med tanke på verkligheten av längre arbetsdagar, fotbollsträning och e-post. Anpassning är bra - det fungerar riktigt bra för oss och för våra samhällen, så att vi kan hålla oss på rätt spår. Genom att enas om en grundläggande uppsättning riktlinjer kan vi optimera för oss själva.
hur mycket är loretta devine värd
Det skulle inte finnas något sätt att skapa en uppsättning bud för A.I. Vi kunde inte skriva ut alla regler för att korrekt optimera för mänskligheten, och det beror på att även om tänkande maskiner kan vara snabba och kraftfulla, saknar de flexibilitet. Det finns inte ett enkelt sätt att simulera undantag eller försöka tänka igenom varje enskild beredskap i förväg. Oavsett vilka regler som kan bli skrivna, skulle det alltid finnas en omständighet i framtiden där vissa människor kanske vill tolka reglerna annorlunda eller att ignorera dem helt eller skapa ändringar för att hantera en oförutsedd omständighet.
Att veta att vi inte kan skriva en uppsättning strikta bud att följa, bör vi istället rikta vår uppmärksamhet på människor som bygger systemen? Dessa människor - A.I.s stammar - borde ställa sig obehagliga frågor, som börjar med:
anne-marie gröna fötter
- Vad är vår motivation för A.I.? Stämmer det med mänsklighetens bästa långsiktiga intressen?
- Vilka är våra egna fördomar? Vilka idéer, upplevelser och värderingar har vi misslyckats med att inkludera i vår stam? Vem har vi förbisett?
- Har vi inkluderat människor som inte är oss själva i syfte att göra framtiden för A.I. bättre - eller har vi helt enkelt inkluderat mångfald i vårt team för att uppfylla vissa kvoter?
- Hur kan vi se till att vårt beteende är inkluderande?
- Hur är de tekniska, ekonomiska och sociala konsekvenserna av A.I. förstås av de som är involverade i dess skapande?
- Vilka grundläggande rättigheter ska vi ha för att förhöra de datamängder, algoritmer och processer som används för att fatta beslut för våra räkning?
- Vem får definiera värdet av mänskligt liv? Mot vad vägs det värdet?
- När och varför anser de i A.I.s stammar att det är deras ansvar att ta itu med sociala konsekvenser av A.I.
- Har ledningen för vår organisation och vår A.I. stammar speglar många olika typer av människor?
- Vilken roll har de som marknadsför A.I. spela för att ta itu med de sociala konsekvenserna av A.I.?
- Ska vi fortsätta att jämföra A.I. för mänskligt tänkande, eller är det bättre för oss att kategorisera det som något annat?
- Är det OK att bygga A.I. som känner igen och reagerar på mänskliga känslor?
- Är det OK att göra A.I. system som kan efterlikna mänskliga känslor, särskilt om det lär sig av oss i realtid?
- Vad är den acceptabla punkten där vi alla är OK med A.I. utvecklas utan människor direkt i slingan?
- Under vilka omständigheter kan en A.I. simulera och uppleva vanliga mänskliga känslor? Vad sägs om smärta, förlust och ensamhet? Är det OK att orsaka det lidandet?
- Utvecklar vi A.I. att söka en djupare förståelse av oss själva? Kan vi använda A.I. för att hjälpa mänskligheten att leva ett mer undersökt liv?
Det finns nio stora teknikföretag - sex amerikanska och tre kineser - som är överväldigande ansvariga för framtiden för artificiell intelligens. I USA är de Google, Microsoft, Amazon, Facebook, IBM och Apple ('G-MAFIA'). I Kina är det BAT: Baidu, Alibaba och Tencent.
G-MAFIA har börjat ta itu med problemet med vägledande principer genom olika forsknings- och studiegrupper. Inom Microsoft finns ett team som heter FATE - för rättvisa, ansvarsskyldighet, transparens och etik i A.I. I kölvattnet av Cambridge Analytica-skandalen lanserade Facebook ett etiklag som utvecklade programvara för att se till att dess A.I. system undviks partiskhet. (Anmärkningsvärt gick Facebook inte så långt som att skapa en etisk tavla fokuserad på A.I.) DeepMind skapade ett etik- och samhällsteam. IBM publicerar regelbundet om etik och A.I. I kölvattnet av en skandal vid Baidu - sökmotorn prioriterade vilseledande medicinska påståenden från ett militärdrivet sjukhus, där en behandling ledde till att en 21-årig student dödade - erkände Baidus VD Robin Li att anställda hade gjort kompromisser för Baidus vinsttillväxt och lovade att fokusera på etik i framtiden.
är charles barkley fortfarande gift
The Big Nine producerar etikstudier och vitböcker, den samlar experter för att diskutera etik, och den är värdpaneler om etik - men den ansträngningen är inte tillräckligt sammanflätad med den dagliga verksamheten för de olika team som arbetar med A.I.
The Big Nine's A.I. system får alltmer tillgång till vår verkliga data för att bygga produkter som visar kommersiellt värde. Utvecklingscyklerna ökar för att hålla jämna steg med investerarnas förväntningar. Vi har varit villiga - om vi inte vet - deltagare i en framtid som skapas snabbt och utan att först svara på alla dessa frågor. Som A.I. system avancerar och mer av vardagen blir automatiserad, desto mindre kontroll har vi faktiskt över de beslut som fattas om och för oss.
Amy Webb kommer att visas på Inc. Founders House i Austin den 11 mars.
