Forskere fra University of Oxford og Googles kunstig intelligens-avdeling DeepMind, advarer om kunstig intelligens.
Tidskriftet, AI Magazine, har publisert en artikkel der de advarer forskere om «katastrofale konsekvenser» dersom utviklingen av intelligente agenter fortsetter.
– En eksistensiell katastrofe er ikke bare mulig, men sannsynlig, skriver en av artikkelforfatterne, Michael Cohen, på Twitter.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Det forskere tar for seg i artikkelen, er et senario hvor intelligente agenter lærer seg å jukse, med mål om å motta en fortjeneste de er programmert å jobbe for. For at agentene skal maksimere sin fortjenesten, kan de ta kontroll over all tilgjengelig energi, som strøm, for å kvitte seg med potensielle trusler og/eller unngå at den blir skrudd av, skriver ABC Nyheter.
– AI-en og hjelperne den har laget vil prøve å bruke all energi for å sikre sitt mål, mens vi prøver å bruke energi til andre ting, som å dyrke mat. Å tape den kampen vil være fatalt, skriver forskerne i en oppsummering av artikkelen. De ser for seg at menneskeheten til slutt kjemper mot kunstig intelligens for energikilder.
– Å vinne kampen om å få bruke opp hver eneste bit av tilgjengelig energi, mens man spiller mot noe som er mye smartere enn oss, vil sannsynligvis være veldig vanskelig, skriver Cohen, ifølge The Independent.
https://inyheter.no/2022/09/17/domstol-vil-innskrenke-nettgiganters-sensurmuligheter/