Kilde:
https://futurism.com/the-byte/alien-civ ... oyed-by-ai
BOTtle Neck
Hvis vi er alene i universet, sier astrofysiker Michael Garrett at det kan være fordi romvesener delte et eksistensielt problem som vi bare så vidt begynner å regne med: kraftig AI.
Fremkomsten av en kunstig superintelligens (ASI), foreslår Garrett i en ny artikkel publisert i tidsskriftet Acta Astronautica , kan forhindre langsiktig overlevelse av fremmede sivilisasjoner - og kanskje hindre deres utvikling til romfarende, multiplanetariske imperier.
Det er en hypotese som til og med kan bidra til å svare på Fermi-paradokset, som spør hvorfor vi fortsatt ikke har oppdaget fremmede sivilisasjoner når vårt ubeskrivelig enorme univers er rikt med beboelige verdener.
"Kan AI være universets 'store filter' - en terskel som er så vanskelig å overvinne at den hindrer det meste av liv i å utvikle seg til romfarende sivilisasjoner?" Garrett, som er Sir Bernard Lovell-leder for astrofysikk ved University of Manchester, skrev i et essay for The Conversation.
Warmongers
I følge Garrett ville en ASI ikke bare være smartere enn mennesker, men ville "forsterke sine egne evner med en hastighet som overgår våre egne evolusjonære tidslinjer uten AI."
Og der ligger den "enorme" risikoen. Hvis AI-systemer får makt over militære evner, for eksempel, kan krigene de fører ødelegge hele sivilisasjonen vår.
"I dette scenariet anslår jeg at den typiske levetiden til en teknologisk sivilisasjon kan være mindre enn 100 år," skrev Garrett.
"Det er omtrent tiden mellom å kunne motta og kringkaste signaler mellom stjernene (1960), og den estimerte fremveksten av ASI (2040) på jorden," la han til. "Dette er alarmerende kort i forhold til den kosmiske tidsskalaen på milliarder av år."
Militære uhell
For å være sikker er Garretts forslag bare ett potensielt "flott filter"-svar på Fermi-paradokset. Det kan også ganske enkelt være at universet er altfor stort - og intelligens altfor sjelden, eller tidsskalaen for episk - til at sivilisasjoner kan møte hverandre.
Men ikke la det bagatellisere AIs risiko, selv om de akkurat nå fortsatt virker relativt tamme. Det er mange spørsmål om lovligheten av å innta opphavsrettsbeskyttet materiale , som bøker og kunstverk, for å trene generative AI-modeller. Vi må også konfrontere teknologiens miljøpåvirkning, ettersom datamaskinene som driver den bruker svimlende mengder vann og elektrisitet .
Dette er ikke helt de spektakulære forløperne til en dramatisk AI-apokalypse, men det kan raskt endre seg. For å møte disse risikoene, krever Garrett sterke regler for utvikling av kunstig intelligens, spesielt om teknologiens integrering i militære systemer, for eksempel hvordan Israel angivelig bruker kunstig intelligens for å identifisere luftangrepsmål i Gaza.
"Det er allerede bevis for at mennesker frivillig vil gi fra seg betydelig makt til stadig mer kapable systemer," sa Garrett, "fordi de kan utføre nyttige oppgaver mye raskere og mer effektivt uten menneskelig innblanding."
"Dette betyr at vi allerede nærmer oss et stup der autonome våpen opererer utenfor etiske grenser og omgår internasjonal lov."
Mer om romvesen og AI: Royal Astronomer i Storbritannia sier at fremmedliv kan være mega-rart AI
Kilde:
https://futurism.com/the-byte/alien-civ ... oyed-by-ai
