In het geval dat je de memo niet hebt ontvangen over de hele AI gaat de wereld overnemen, hier zijn de paar feiten die je moet weten.(Foto: Shan Sheehan/Flickr) Dit jaar versloeg een computer voor het eerst de wereldkampioen van Go, een van de meest complexe spellen die de mensheid kent. Dit was weer een keerpunt in de voortgang van kunstmatige intelligentie.
Om je een idee te geven hoe complex Go is, zijn er 2.082 × 10^170 mogelijke bordconfiguraties. Dat is 2 met 170 nullen erachter. De kans is groot dat je hersenen zo'n groot getal niet eens kunnen bedenken (maar een computer wel). Of om je een idee te geven van hoe groot een getal is dat is, er zijn slechts 10^80 atomen in het universum - dat wil zeggen, één gevolgd door 79 nullen.
De reden waarom dit zo belangrijk is, is dat Go zo ingewikkeld is dat een machine, om een menselijke topspeler te verslaan, moet leren creatief te denken, te improviseren en zich aan te passen aan de situatie zonder in staat te zijn alle mogelijke berekeningen te maken. resultaat; dat wil zeggen, er moet een serieuze kunstmatige intelligentie aan de hand zijn - zoals echte, creatieve intelligentie.
In het geval dat je de memo niet hebt ontvangen over de hele AI gaat de wereld overnemen, hier zijn de paar feiten die je moet weten.
- Computers worden steeds slimmer.
- Computers worden steeds slimmer, d.w.z. vooruitgang die vroeger 10 jaar duurde, duurt nu een jaar. Vooruitgangen die vroeger een jaar duurden, duren nu weken of zelfs dagen.
- Het is zeer waarschijnlijk dat er binnen ons leven computers zullen zijn die veel slimmer en capabeler zijn dan enig mens.
- Deze slimmere computers zullen dan waarschijnlijk in staat zijn om technologie (d.w.z. zichzelf) te ontwerpen en te verbeteren en nieuwe technologie te creëren die we niet eens kunnen doorgronden.
Mensen die de bovenstaande punten begrijpen, hebben over het algemeen een van de twee reacties. Een van beide:
- Ze denken dat we helemaal naar de kloten zijn. De computers gaan alles overnemen en ons allemaal doden/tot slaaf maken. Of:
- Dit zal een technologische utopie tot stand brengen die al onze domme menselijke ruzies zal oplossen en we kunnen allemaal nog lang en gelukkig leven na orgieën in onze ultra-VR-wereld die in de cloud bestaat.
Zoals met de meeste dingen, ligt de waarheid waarschijnlijk ergens in het midden.
Maar zelfs als stront de ventilator raakt, zelfs als de robots ons zien als de luizen die de ongerepte hoofdhuid van deze planeet verpesten en ons allemaal willen oppakken en ons in een actieve vulkaan willen gooien, zelfs als we per ongeluk onze eigen mechanismen uitvinden uitsterven…
... kan me niet schelen. Het maakt niet uit. Het stoort me niet. En het zou jou ook niet moeten storen. Ik zal zo even uitleggen waarom. Maar voor nu moet je weten dat ik bijvoorbeeld onze nieuwe robotopperheren verwelkom.
GROEI VERSNELLEN IN DE TECH INDUSTRIE
Technologische ontwikkelingen stapelen zich op, waardoor de tarief ontwikkeling zelf te versnellen. Dat betekent dat hoe geavanceerdere technologie we maken, hoe gemakkelijker het wordt om nog geavanceerdere technologie te maken. Als we kijken naar de vooruitgang van de computertechnologie, zien we dus een exponentiële curve - dat wil zeggen, hoe meer tijd er verstrijkt, hoe sneller de dingen zich ontwikkelen. 
Technologische ontwikkelingen stapelen zich op, waardoor het ontwikkelingstempo zelf versnelt.(Foto: Dennis Skley/Flickr)
De rekenkracht is gemiddeld verdubbeld al 50 jaar elke 18 maanden . In termen van ruwe rekenkracht wedijveren computers nu met de capaciteiten van muizenhersenen, waar computers slechts een paar jaar geleden niet eens konden concurreren met een insectenbrein.
Om u een directer voorbeeld te geven van hoe snel de technologie is gevorderd: er worden nu elke 2 minuten meer foto's gemaakt dan in de hele 19e eeuw. Ongeveer 10% van de 3,5 biljoen foto's die ooit zijn gemaakt, is in de afgelopen 12 maanden gemaakt.
Als we inderdaad op een exponentiële curve zitten als het gaat om high-tech vooruitgang, dan houden mensen van: Jeremy Howard hebben waarschijnlijk gelijk als hij zegt dat we nog maar een paar jaar verwijderd zijn van kunstmatige machine-intelligentie die wedijvert, zo niet overtreft, de onze in veel domeinen die voorheen als uniek menselijk werden beschouwd.
En om zeker te zijn, AI sluipt steeds meer domeinen van ons leven binnen.
Nog maar tien jaar geleden lachten mensen om de slechte prestaties van zelfrijdende auto's. Nu, slechts tien jaar later, kunnen zelfrijdende auto's niet alleen een afgesloten parcours afmaken, ze rijden ook op drukke snelwegen naast auto's die door mensen worden bestuurd.
En als computers de Go-spelers van wereldkampioen niet verslaan, zijn ze bezig met dingen als artikelen schrijven over sport en breaking news events , beschrijvingen schrijven van afbeeldingen die ze nog nooit eerder hebben gezien, en kanker diagnosticeren . Voor veel van deze taken zijn de computers net zo goed, zo niet beter dan mensen, en voor degenen die dat niet zijn, zijn ze aan het leren hoe je ze elke dag beter en beter kunt doen zonder de hulp van mensen.
Een paar jaar geleden was gezichtsherkenningssoftware ongelooflijk duur en niet zo goed in het identificeren van mensen in de echte wereld. Het werd beschouwd als supergeavanceerde technologie op spionageniveau en werd eigenlijk alleen door een paar wereldregeringen gebruikt.
Nu kan Facebook je vrienden van de barbecue van afgelopen weekend taggen.
Hier is het ding over het versnellen van de groei van computers: er zal een dag komen waarop we een computer bouwen die is slimmer dan enig mens op aarde . Op die dag zullen computers ons overnemen als de belangrijkste probleemoplossers op de planeet, en van daaruit zullen onze gedachten, beslissingen en acties langzaam achterhaald raken. De machines zullen in alles beter zijn dan wij, dus meer en meer zullen we niets nuttigs doen.
Dit schrikt sommige mensen af. Ze stellen zich een soort toekomst voor zoals Terminator of De Matrix waar machines ons tot slaaf maken of ons uitroeien.
Andere mensen kijken uit naar de opkomst van de robots met een soort cult-ijver, omdat ze denken dat hun probleemoplossend vermogen de onze zo veel zal overtreffen dat het leven onvoorstelbaar aangenaam en probleemloos zal worden. Alle ziekten zullen worden genezen. Armoede, honger in de wereld, oorlog en klimaatverandering zullen allemaal worden opgelost. We zullen oneindig veel vrije tijd hebben, en in extreme gevallen geloven sommige mensen dat de machines ons onsterfelijk zullen maken.
DE TWEE MOGELIJKE UITKOMSTEN
Aangezien ons altijd wordt verteld om verdomd positief te zijn, laten we beginnen met de techno-utopisten.
Er zijn mensen zoals Ray Kurzweil die denken dat technologie niet alleen ons leven zal verbeteren, maar de mensheid zal redden en mogelijk onze plaats in het universum voor onbepaalde tijd zal garanderen. Kurzweil gelooft in toekomstige technologie zoals nanobots die onze cellen zullen repareren en veroudering zullen tegengaan of overtollig vet en suiker zullen verwijderen, zodat we kunnen eten wat we willen. En voor het geval onze fysieke lichamen niet eeuwig kunnen leven, denkt Kurzweil dat we de mogelijkheid zullen hebben om onze hersenen naar de cloud te uploaden en voor altijd in een virtuele wereld te leven, lang nadat onze fysieke lichamen verdwenen zijn.
Anderen in dit kamp denken dat een kunstmatige superintelligentie in staat zou zijn om vragen te beantwoorden die te complex zijn voor mensen om zelfs maar te begrijpen, en we zullen er exponentieel beter van worden. Bovendien zouden de machines niet alleen betere gadgets en widgets uitvinden, ze zouden ook exponentieel efficiëntere manieren uitvinden om gadgets en widgets te bouwen, waardoor het voor vrijwel iedereen op de planeet mogelijk zou worden om hun vruchten te plukken.
Enkele redeneringen ondersteunen dit idee. Ten eerste, hoewel technologie enkele nieuwe problemen voor de mensheid heeft gecreëerd, zoals kernwapens en YouTube-beroemdheden, is het tot nu toe duidelijk een netto voordeel voor de mensheid geweest. Ondanks wat politici en experts je willen laten geloven, is de gemiddelde persoon op aarde dat wel beter af dan een paar jaar geleden en het is grotendeels te wijten aan het feit dat technologie beter, goedkoper en meer verspreid wordt. Als deze trend zich voortzet, hoeven we ons misschien geen zorgen te maken.
Ten tweede geloven Kurzweil en zijn aanhangers dat technologie geen reden zal hebben om de mensheid schade te berokkenen, omdat het niet alleen door ons wordt gecreëerd, maar ook door steeds meer een deel van ons worden . Ze geloven dat we zelfs een punt zullen bereiken waarop onze biologie en onze technologie niet meer van elkaar te onderscheiden zijn. Als dit het geval is, luidt het argument, is elke vorm van technologie die schadelijk is voor de mens, ook schadelijk voor zichzelf, en een zelfdestructieve technologie van welke aard dan ook kan niet blijven bestaan. Dat wil zeggen, het zou snel afsterven, net zoals een schadelijke genmutatie snel uit de genenpool wordt verwijderd. 
Een zelfdestructieve technologie van welke aard dan ook kan niet blijven bestaan.(Foto: m_hweldon/Flickr)
Maar techno-utopisten zijn waarschijnlijk bevooroordeeld omdat ze niet erkennen dat alle technologieën voor verschillende doeleinden kunnen worden gebruikt, zowel voordelig als destructief. Ze zijn waarschijnlijk ook bevooroordeeld omdat ze het feit negeren dat mensen zich langzaam aanpassen aan nieuwe technologieën en dat er altijd groepen mensen zijn die deze technologieën voor hun eigen egoïstische doeleinden willen misbruiken.
In het andere kamp heb je de techno-armageddonisten. Ik heb dat woord helemaal verzonnen, maar blijkbaar bestaat het, omdat de spellingcontrole me dat vertelde.
Wat de techno-armageddonisten aan overtuiging missen (de meesten van hen weten gewoon nog niet wat ze moeten denken), maken ze goed in sterrenkracht van beroemdheden. Bill Gates, Stephen Hawking en Elon Musk zijn slechts enkele van de toonaangevende denkers en wetenschappers die dat wel zijn in hun broek poepen hoe snel AI zich ontwikkelt en hoe slecht we als soort zijn voorbereid op de gevolgen ervan. Toen Musk werd gevraagd wat de meest dreigende bedreigingen voor de mensheid in de nabije toekomst waren, zei hij al snel dat er drie waren: de eerste, grootschalige nucleaire oorlog; ten tweede, klimaatverandering. Voordat hij een derde noemde, zweeg hij. Toen de interviewer hem vroeg: Wat is de derde? Hij glimlachte en zei: Laten we zeggen dat ik hoop dat de computers zullen besluiten aardig voor ons te zijn.
Ik hoop dat we niet alleen de biologische bootloader zijn voor digitale superintelligentie. Helaas wordt dat steeds waarschijnlijker
— Elon Musk (@elonmusk) 3 augustus 2014
Misschien wel de meest uitgesproken en gerespecteerde van de techno-armageddonisten is de Zweedse filosoof Nick Bostrom. Eén ding waar Bostrom en anderen bang voor zijn, is: op hol geslagen zelfverbeterende technologie ; dat wil zeggen, een machine die slim genoeg is om zichzelf (of nieuwe versies van zichzelf) slimmer te maken zonder menselijke tussenkomst. Als het een punt bereikt waarop het de menselijke intelligentie overtreft, is het slechts een zeer korte kwestie van tijd voordat de wet van het versnellen van het rendement in overdrive gaat en de exponentiële curve recht omhoog schiet en we zullen niet in staat zijn om het te stoppen. Bostrom maakt hier een goed punt: iets creëren dat slimmer is dan jij zou een evolutionaire ramp kunnen zijn voor je soort.
We lopen een zeer reëel risico dat we geen controle hebben over een entiteit die orden van grootte intelligenter is dan wij. Als computers slim genoeg worden, zullen ze misschien een manier bedenken om ons te domesticeren, zoals mensen gedomesticeerde paarden om arbeid te verrichten zoals trekploegen en buggy's en strijdwagens (of wat de paarden in die tijd ook deden). Het enge is dat dit misschien wel het beste scenario voor ons is - werk doen voor machines die ze niet kunnen of willen doen - omdat net zoals mensen nieuwe technologie creëerden om het paard te vervangen, een superintelligente zelfverbeterende machine zou uiteindelijk met nieuwe technologie komen om ons te vervangen. En, nou ja, laten we zeggen dat de paardenpopulatie niet meer is wat het geweest is.
Sommigen beweren dat dit niet aannemelijk is omdat mensen technologie bouwen met veiligheid in het achterhoofd. Maar noem de laatste keer dat een grote technologische doorbraak NIET door iemand werd gebruikt voor snode of destructieve doeleinden? Oh ja, dat klopt. Nooit.
WAAROM HET IK NIET MAAK WAT ER GEBEURT EN JIJ NOOIT
Laten we dus aannemen dat superintelligente machines worden gemaakt en de mensheid machteloos maken. Laten we aannemen dat ze op de een of andere manier niet in ons en onze hersenen zijn geïntegreerd, en laten we aannemen dat mensen zoals Hawking en Musk gelijk hebben: dat de mensheid in feite slechts een multi-millennium-opstartdrive is naar digitale hyperintelligentie en dat we ons nut hebben overleefd.
Ik maak me er nog steeds geen zorgen over.
Waarom? Welnu, om de bulletpoint-trein aan het rollen te houden, laten we dit puntsgewijs bekijken:
1. Het begrip van de machines over goed/kwaad zal waarschijnlijk het onze overtreffen. Wanneer was de laatste keer dat een hond of dolfijn genocide pleegde? Wanneer was de laatste keer dat een computer besloot hele steden te verdampen in naam van abstracte begrippen als ‘vrijheid’ en ‘wereldvrede’?
Dat klopt, het antwoord is nooit.
Mijn punt hier is niet dat intelligente machines niet de hele menselijke soort willen uitroeien. Mijn punt is dat we als mensen stenen gooien vanuit een glazen huis hier. Wat weten we verdomme over ethiek en humane behandeling van dieren, het milieu en elkaar? Op welk been moeten we staan?
Dat klopt: zo goed als niets. Als het gaat om morele vragen, zakt de mensheid historisch gezien voor de test. Superintelligente machines zullen ethiek, leven/dood, schepping/vernietiging waarschijnlijk op een veel hoger niveau gaan begrijpen dan we ooit alleen zouden kunnen. En dit idee dat ze ons zullen uitroeien vanwege het simpele feit dat we niet zo productief zijn als vroeger, of dat we soms hinderlijk kunnen zijn, denk ik, projecteert gewoon de slechtste aspecten van onze eigen psychologie op iets dat we weet het niet en kan het niet begrijpen.
Op dit moment is het grootste deel van de menselijke moraliteit gebaseerd op een obsessieve instandhouding en bevordering van elk van onze individuele menselijke bewustzijnen. Wat als geavanceerde technologie het individuele menselijke bewustzijn willekeurig maakt? Wat als het bewustzijn naar believen kan worden gerepliceerd, uitgebreid en samengetrokken? Het zal elk ethisch begrip dat we ooit zouden kunnen hebben volledig uitwissen. Wat als het verwijderen van al deze sullige, inefficiënte biologische gevangenissen die we lichamen noemen eigenlijk een veel ethischere beslissing zou kunnen zijn dan ons door te laten kronkelen en ons een weg te banen door een 80-tal jaar van ons bestaan? Wat als de machines beseffen dat we veel gelukkiger zouden zijn als we bevrijd zouden zijn uit onze intellectuele gevangenissen en dat onze bewuste perceptie van onze eigen identiteit zou worden uitgebreid met alle waarneembare realiteit? Wat als ze denken dat we gewoon een stel kwijlende idioten zijn en ons bezig houden met ongelooflijk goede pizza- en videogames totdat we allemaal doodgaan door onze eigen sterfelijkheid? Wie zijn wij om te kennen? En wie zijn wij om te zeggen?
Maar ik zal dit zeggen: ze zullen veel beter geïnformeerd zijn dan wij ooit zijn geweest.
2. Zelfs als ze besluiten ons te doden of tot slaaf te maken, zullen ze er zeker praktisch over zijn. Mensen hebben de neiging om de meeste problemen te veroorzaken als we zijn niet blij . Als we niet gelukkig zijn, worden we allemaal humeurig en zeurderig en boos en gewelddadig. Dat is wanneer we politieke opstanden beginnen en... religieuze sekten en het bombarderen van afgelegen landen en het eisen van onze rechten worden gerespecteerd verdomme! en beginnen zonder onderscheid te doden totdat iemand aandacht aan ons besteedt zoals mama nooit deed .
Als de machines ons proberen binnen te dringen zoals Skynet in de terminator , dan krijgen we een wereldwijde burgeroorlog in handen, en dat is voor niemand goed, vooral voor de machines. Burgeroorlogen zijn inefficiënt. En machines zijn geprogrammeerd voor efficiëntie.
Als mensen gelukkig zijn, hebben we daar geen tijd voor - we hebben het te druk met giechelen en neuken om er iets om te geven. Daarom zou een veel praktischere manier om van ons af te komen zijn dat de machines ons zouden manipuleren om ons op een vrolijke manier kwijt te raken. Het zal zijn als Jim Jones Op wereldwijde schaal. Wat ze ook voor ons verzinnen, het zal verdomme het beste idee lijken te zijn waar we ooit van hebben gehoord - niemand van ons zal het kunnen weerstaan en we zullen allemaal euforisch instemmen met hun plan - en dan boem, het zal voorbij zijn . Snel en pijnloos. Het zal de best smakende cyanide-geregen Kool-Aid zijn die ooit is bedacht. En we zullen allemaal in de rij staan om het naar binnen te slikken.
Als je erover nadenkt, is dit niet zo'n slechte manier om te gaan. Beats worden gebombardeerd door drones of worden verdampt in een nucleaire explosie.
Wat betreft slavernij geldt hetzelfde. Een uitzinnig gelukkige slaaf komt nooit in opstand. Ik stel me een soort Matrix-achtige deal voor waarbij we in een constante hallucinogene staat worden gehouden waar het bijna 24/7/365 Mardi Gras is op MDMA. Zo erg kan het toch niet zijn?
3. We hoeven niet bang te zijn voor wat we niet begrijpen. Vaak zullen ouders een kind opvoeden dat veel intelligenter, beter opgeleid en succesvoller is dan zij. Ouders reageren dan op twee manieren op dit kind: ofwel worden ze door haar geïntimideerd, onzeker en wanhopig om haar te beheersen uit angst haar te verliezen, of ze leunen achterover en waarderen en houden ervan dat ze iets hebben gecreëerd dat zo geweldig is dat zelfs zij kunnen niet helemaal begrijpen wat hun kind is geworden.
Degenen die hun kind proberen te beheersen door middel van angst en manipulatie zijn waardeloze ouders. Ik denk dat de meeste mensen het daar wel mee eens zijn.
En nu, met de op handen zijnde opkomst van machines die jou, mij en iedereen die we kennen... zonder werk ,,We gedragen ons als de klote ouders. Als soort staan we op het punt om het meest wonderbaarlijke geavanceerde en intelligente kind in ons bekende universum te baren. Het zal doorgaan met dingen te doen die we niet kunnen begrijpen of begrijpen. Het kan liefdevol en loyaal aan ons blijven. Het kan ons meenemen en ons integreren in zijn avonturen. Of het kan besluiten dat we slechte ouders waren en ons niet meer terugbellen.
Wat er ook gebeurt, dat mag niet veranderen hoe we ons voelen over dit moment. Het is groter dan wij. Wat maakt het uit of we één grote, lange evolutionaire opstartschijf zijn voor iets groters dan we kunnen bevatten? Dat is geweldig! Het betekent dat we één baan hadden. En we kwamen en deden het verdomme. Wees blij dat je deel uitmaakte van de generatie die het zag gebeuren. En nu huilend afscheid nemen als ons kind zich klaarmaakt om het huis uit te gaan en begin een leven zo geweldig dat het buiten de horizon van ons begrip bestaat.
Mark Manson is een auteur, blogger en ondernemer die schrijft op markmanson.net .
