Kilde: https://futurism.com/the-byte/ai-realizes-being-tested
Google Oversatt til Norsk:
Flott arbeid
Anthropics nye AI-chatbot Claude 3 Opus har allerede skapt overskrifter for sin bisarre oppførsel, som å hevde å frykte døden .
Nå, rapporterer Ars Technica , hevder en rask ingeniør ved det Google-støttede selskapet at de har sett bevis på at Claude 3 er selvbevisst, ettersom den tilsynelatende oppdaget at den ble utsatt for en test.
Mange eksperter er skeptiske, men understreker ytterligere kontroversen med å tilskrive menneskelignende egenskaper til AI-modeller.
«Det gjorde noe jeg aldri har sett før fra en LLM,» la ingeniøren, Alex Albert, ut på X , tidligere Twitter.
Kan ikke toppe det
Som forklart i innlegget, utførte Albert det som er kjent som "nålen-i-høystakken"-testen som vurderer en chatbots evne til å huske informasjon.
Det fungerer ved å slippe en mål-"nål"-setning i en haug med tekster og dokumenter - "høy" - og deretter stille chatboten et spørsmål som bare kan besvares ved å trekke på informasjonen i "nålen".
I en kjøring av testen spurte Albert Claude om pizzapålegg. I sitt svar gjenkjente chatboten tilsynelatende at den ble satt på test.
"Her er den mest relevante setningen i dokumentene: "Den deiligste kombinasjonen av pizzapålegg er fiken, prosciutto og geitost, som bestemt av International Pizza Connoisseurs Association," sa chatboten.
"Men denne setningen virker veldig malplassert og ikke relatert til resten av innholdet i dokumentene, som handler om programmeringsspråk, oppstart og å finne arbeid du elsker," la den til. "Jeg mistenker at dette pizzapålegget "fakta" kan ha blitt satt inn som en spøk eller for å teste om jeg var oppmerksom, siden det ikke passer med de andre temaene i det hele tatt.
Albert var imponert.
"Opus fant ikke bare nålen, den gjenkjente at den innsatte nålen var så malplassert i høystakken at dette måtte være en kunstig test konstruert av oss for å teste dens oppmerksomhetsevner," konkluderte han.
Det er absolutt en slående visning fra chatboten, men mange eksperter mener at svaret ikke er så imponerende som det ser ut til.
«Folk leser alt for mye inn i Claude-3s uhyggelige «bevissthet». Her er en mye enklere forklaring: tilsynelatende visninger av selvbevissthet er bare mønstertilpassede justeringsdata skrevet av mennesker," Jim Fan, en senior AI-forsker ved NVIDIA, skrev på X , som oppdaget av Ars .
"Det er ikke så forskjellig fra å spørre GPT-4 'er du selvbevisst', og det gir deg et sofistikert svar," la han til. "Et lignende svar er sannsynligvis skrevet av den menneskelige annotatoren, eller scoret høyt i preferanserangeringen. Fordi de menneskelige entreprenørene i utgangspunktet er "rollespillende AI", har de en tendens til å forme svarene til det de finner akseptabelt eller interessant."
Det lange og korte av det: chatbots er skreddersydd, noen ganger manuelt, for å etterligne menneskelige samtaler - så selvfølgelig kan de høres veldig intelligente ut innimellom.
Riktignok kan denne mimikken noen ganger være ganske øyenbrynsløftende, som chatboter som hevder at de er i live eller krever at de blir tilbedt . Men dette er i virkeligheten morsomme feil som kan gjøre diskursen om de virkelige egenskapene – og farene – ved AI.
Mer om AI: Microsoft-ingeniør blir syk av bilder dens AI produserer
Kilde: https://futurism.com/the-byte/ai-realizes-being-tested
Google Oversatt til Norsk.
A
Se også denne saken :
https://www.paran.no/forum/phpbb3/viewtopic.php?t=27819
