Kan AI kollapsa? Experter varnar för dess faror och lösningar
Varför kan generativ AI självförstöra? Upptäck de senaste studierna som varnar för dess nedbrytning och de experter som analyserar möjliga lösningar....Författare: Patricia Alegsa
14-10-2024 14:21
- Alarmerande Degradering av Generativ AI
- Modellens Kollaps: Ett Degenerativt Fenomen
- Svårigheten med Mänsklig Intervention
- En Framtid av Osäkerhet: Utmaningar och Möjliga Lösningar
Följ Patricia Alegsa på Pinterest!
Alarmerande Degradering av Generativ AI
Recenta studier har väckt oro över ett oroande fenomen i utvecklingen av generativ artificiell intelligens: nedbrytningen av kvaliteten på svaren.
Experter har påpekat att när dessa system tränas med syntetiska data, det vill säga innehåll som genererats av andra AI, kan de hamna i en nedbrytningscykel som kulminerar i absurda och meningslösa svar.
Frågan som uppstår är: hur når man denna punkt och vilka åtgärder kan vidtas för att förhindra det?
El "kollaps av modellen" hänvisar till en process där AI-system fastnar i en träningscykel med dålig datakvalitet, vilket resulterar i en förlust av mångfald och effektivitet.
Modellens Kollaps: Ett Degenerativt Fenomen
El "kollaps av modellen" hänvisar till en process där AI-system fastnar i en träningscykel med dålig datakvalitet, vilket resulterar i en förlust av mångfald och effektivitet.
Enligt Ilia Shumailov, medförfattare till en studie publicerad i Nature, uppstår detta fenomen när AI börjar mata sig själv med sina egna utdata, vilket upprätthåller fördomar och minskar dess nytta. På lång sikt kan detta leda till att modellen producerar alltmer homogent och mindre exakt innehåll, som ett eko av sina egna svar.
Emily Wenger, professor i ingenjörsvetenskap vid Duke University, illustrerar detta problem med ett enkelt exempel: om en AI tränas för att generera bilder av hundar, kommer den att tendera att replikera de vanligaste raserna, och bortse från de mindre kända.
Emily Wenger, professor i ingenjörsvetenskap vid Duke University, illustrerar detta problem med ett enkelt exempel: om en AI tränas för att generera bilder av hundar, kommer den att tendera att replikera de vanligaste raserna, och bortse från de mindre kända.
Detta är inte bara en reflektion av datakvaliteten, utan det innebär också betydande risker för representationen av minoriteter i träningsdatamängder.
Läs också: Den alltmer intelligenta artificiella intelligensen och de allt dummare människorna.
Trots allvaret i situationen är lösningen inte enkel. Shumailov påpekar att det inte är klart hur man kan förhindra kollapsen av modellen, även om det finns bevis för att blanda verkliga data med syntetiska kan mildra effekten.
Läs också: Den alltmer intelligenta artificiella intelligensen och de allt dummare människorna.
Svårigheten med Mänsklig Intervention
Trots allvaret i situationen är lösningen inte enkel. Shumailov påpekar att det inte är klart hur man kan förhindra kollapsen av modellen, även om det finns bevis för att blanda verkliga data med syntetiska kan mildra effekten.
Detta innebär dock också att kostnaderna för träning ökar och att det blir svårare att få tillgång till kompletta datamängder.
Bristen på en tydlig strategi för mänsklig intervention lämnar utvecklarna inför ett dilemma: kan människor verkligen kontrollera framtiden för generativ AI?
Fredi Vivas, VD för RockingData, varnar för att överträning med syntetiska data kan skapa en "ekokammareffekt", där AI lär sig av sina egna felaktigheter, vilket ytterligare minskar dess förmåga att generera exakt och mångsidigt innehåll. Således blir frågan om hur man säkerställer kvaliteten och nyttan av AI-modeller allt mer brådskande.
En Framtid av Osäkerhet: Utmaningar och Möjliga Lösningar
Experterna är överens om att användningen av syntetiska data inte är inneboende negativ, men dess hantering kräver ett ansvarsfullt tillvägagångssätt. Förslag som implementering av vattenstämplar på de genererade data kan hjälpa till att identifiera och filtrera syntetiskt innehåll, vilket säkerställer kvaliteten i träningen av AI-modeller.
Men effektiviteten av dessa åtgärder beror på samarbetet mellan de stora teknikföretagen och utvecklarna av mindre modeller.
Framtiden för generativ AI står på spel, och det vetenskapliga samfundet befinner sig i en kapplöpning mot klockan för att hitta lösningar innan bubblan av syntetiskt innehåll spricker.
Framtiden för generativ AI står på spel, och det vetenskapliga samfundet befinner sig i en kapplöpning mot klockan för att hitta lösningar innan bubblan av syntetiskt innehåll spricker.
Nyckeln kommer att vara att etablera robusta mekanismer som garanterar att AI-modeller förblir användbara och exakta, och därmed undvika det kollaps som många fruktar.
Prenumerera på det fria veckans horoskop
Fiskarna Jungfru Kräftan Lejonet Oxen Skorpionen Skytten Stenbocken Tvillingarna Väduren Vågen Vattumannen
-
Upptäck datumet då solen kommer att explodera och mänskligheten kommer att försvinna
Upptäck när solen kommer att explodera och mänskligheten kommer att gå under, enligt AI. Gamla förutsägelser om utrotning på jorden och dess möjliga orsaker. -
Upptäckte nya molekyler för antibiotika i tarmmikrobiomet
Upptäck hur tarmmikrobiomet kan vara nyckeln i jakten på nya antibiotika. Forskare från universitetet i Pennsylvania avslöjar detta i Cell. -
Hur man införlivar kollagen med gelatin
Upptäck hur detta protein kan förbättra dina ben, leder och hud. Lär dig de bästa sätten att inkludera det i din dagliga kost. -
Video: ägaren till denna bil har ett verkligt problem med bin
Ägaren av bilen som vi kan se i den här videon har stött på ett verkligt problem: farliga bin har byggt sitt bo där. -
Varför njuter vi av att se skräckfilmer? Vetenskapen förklarar
Upptäck varför vi älskar skräck på Halloween: Vetenskapen avslöjar hur rädsla och stresshormoner kan vara njutbara för vår hjärna.
Prenumerera på det fria veckans horoskop
Få varje vecka i din e -post horoskopet och våra nya artiklar om kärlek, familj, arbete, drömmar och mer nyheter. Vi skickar inte skräppost.
Astral och numerologisk analys
-
Online drömtolk: med artificiell intelligens
Vill du veta vad någon dröm du hade betyder? Upptäck kraften att förstå dina drömmar med vår avancerade online drömtydare som använder artificiell intelligens och ger dig svar på några sekunder.
-
Hur vi tänker påverkar vår uppfattning om tidens gång
Forskare har funnit att vår hjärna fungerar som en räknare av erfarenheter. Utifrån detta verkar det som att tiden går snabbare eller långsammare. -
Mor- och farföräldrar lever längre när de tillbringar mer tid med sina barnbarn
En studie visar att låg social interaktion ökar dödligheten. Upptäck på Mor- och Farföräldradagen fördelarna med banden mellan generationer. -
Jupiters stora röda fläck minskar och vi vet redan varför
Upptäck den otroliga kosmiska stormen som vi har observerat i årtionden på Jupiter. Vi avtäcker mysteriet bakom dess minskning. Utforska kosmos med oss! -
Den virala bilden som utmanar logiken! Var är kvinnans huvud?
En bild, som har blivit viral dessa dagar, visar en kvinnan utan huvud i vad som verkar vara en skönhetssalong: Var är hennes huvud? -
Överlevnad i Laviner: Hur länge kan en människa överleva i snön?
Upptäck hur länge en människa kan överleva under en snöskred. En bergsklättrare i Bariloche överlevde 'av ett mirakel'. Lär dig om vetenskapen bakom! -
Hur man bevarar avokado: Tekniker för att behålla dess fräschör
Upptäck enkla och effektiva tekniker för att bevara färskheten hos frukter rika på hälsosamma fetter och vitaminer, och njut av deras fördelar längre. -
Armie Hammer, från stigande hjärteknipare till fall på grund av chockerande skandaler
Armie Hammer, före detta Hollywood-stjärna, står inför allvarliga anklagelser om övergrepp och kannibalism som har förstört hans karriär. Idag fyller han 38 år. -
Vad betyder det att drömma om is?
Upptäck drömmarnas mystiska värld med vår artikel Vad betyder det att drömma om is? Upptäck dess symbolik och hur den kan påverka ditt liv. -
Förändra ditt liv: små dagliga vaneförändringar
Upptäck hur du kan förvandla ditt liv med enkla vaneförändringar. Den här artikeln är din guide till ett mer fylligt och hälsosamt liv. -
Vårasteni? Upptäck hur du hanterar dess påverkan på ditt humör
Vårasteni: upptäck hur årstidens skifte påverkar din energi och ditt humör. Lär dig att känna igen och hantera dess effekter. -
Vad innebär det att drömma om en stad?
Ta reda på innebörden av att drömma om en stad och hur det påverkar ditt liv. Hitta tips och ledtrådar för att fatta bättre beslut för din framtid - läs mer här! -
Madonna vid 66 års ålder, från drömmande nunna till den rebelliska popdrottningen
Madonna, vid 66 års ålder, har utmanat konventioner sedan hennes början i New York. Känd som popens drottning, har hennes musik och rebelliskhet gjort henne ikonisk. -
Vad innebär det att drömma om parkeringshus?
I den här artikeln får du reda på innebörden av dina drömmar om parkeringsplatser. Vad symboliserar tomma eller fulla platser? Upptäck deras budskap för dig.