Innehållsförteckning
Följ Patricia Alegsa på Pinterest!
Alarmerande Degradering av Generativ AI
Recenta studier har väckt oro över ett oroande fenomen i utvecklingen av generativ artificiell intelligens: nedbrytningen av kvaliteten på svaren.
Experter har påpekat att när dessa system tränas med syntetiska data, det vill säga innehåll som genererats av andra AI, kan de hamna i en nedbrytningscykel som kulminerar i absurda och meningslösa svar.
Frågan som uppstår är: hur når man denna punkt och vilka åtgärder kan vidtas för att förhindra det?
El "kollaps av modellen" hänvisar till en process där AI-system fastnar i en träningscykel med dålig datakvalitet, vilket resulterar i en förlust av mångfald och effektivitet.
Modellens Kollaps: Ett Degenerativt Fenomen
El "kollaps av modellen" hänvisar till en process där AI-system fastnar i en träningscykel med dålig datakvalitet, vilket resulterar i en förlust av mångfald och effektivitet.
Enligt Ilia Shumailov, medförfattare till en studie publicerad i Nature, uppstår detta fenomen när AI börjar mata sig själv med sina egna utdata, vilket upprätthåller fördomar och minskar dess nytta. På lång sikt kan detta leda till att modellen producerar alltmer homogent och mindre exakt innehåll, som ett eko av sina egna svar.
Emily Wenger, professor i ingenjörsvetenskap vid Duke University, illustrerar detta problem med ett enkelt exempel: om en AI tränas för att generera bilder av hundar, kommer den att tendera att replikera de vanligaste raserna, och bortse från de mindre kända.
Emily Wenger, professor i ingenjörsvetenskap vid Duke University, illustrerar detta problem med ett enkelt exempel: om en AI tränas för att generera bilder av hundar, kommer den att tendera att replikera de vanligaste raserna, och bortse från de mindre kända.
Detta är inte bara en reflektion av datakvaliteten, utan det innebär också betydande risker för representationen av minoriteter i träningsdatamängder.
Läs också: Den alltmer intelligenta artificiella intelligensen och de allt dummare människorna.
Trots allvaret i situationen är lösningen inte enkel. Shumailov påpekar att det inte är klart hur man kan förhindra kollapsen av modellen, även om det finns bevis för att blanda verkliga data med syntetiska kan mildra effekten.
Läs också: Den alltmer intelligenta artificiella intelligensen och de allt dummare människorna.
Svårigheten med Mänsklig Intervention
Trots allvaret i situationen är lösningen inte enkel. Shumailov påpekar att det inte är klart hur man kan förhindra kollapsen av modellen, även om det finns bevis för att blanda verkliga data med syntetiska kan mildra effekten.
Detta innebär dock också att kostnaderna för träning ökar och att det blir svårare att få tillgång till kompletta datamängder.
Bristen på en tydlig strategi för mänsklig intervention lämnar utvecklarna inför ett dilemma: kan människor verkligen kontrollera framtiden för generativ AI?
Fredi Vivas, VD för RockingData, varnar för att överträning med syntetiska data kan skapa en "ekokammareffekt", där AI lär sig av sina egna felaktigheter, vilket ytterligare minskar dess förmåga att generera exakt och mångsidigt innehåll. Således blir frågan om hur man säkerställer kvaliteten och nyttan av AI-modeller allt mer brådskande.
En Framtid av Osäkerhet: Utmaningar och Möjliga Lösningar
Experterna är överens om att användningen av syntetiska data inte är inneboende negativ, men dess hantering kräver ett ansvarsfullt tillvägagångssätt. Förslag som implementering av vattenstämplar på de genererade data kan hjälpa till att identifiera och filtrera syntetiskt innehåll, vilket säkerställer kvaliteten i träningen av AI-modeller.
Men effektiviteten av dessa åtgärder beror på samarbetet mellan de stora teknikföretagen och utvecklarna av mindre modeller.
Framtiden för generativ AI står på spel, och det vetenskapliga samfundet befinner sig i en kapplöpning mot klockan för att hitta lösningar innan bubblan av syntetiskt innehåll spricker.
Framtiden för generativ AI står på spel, och det vetenskapliga samfundet befinner sig i en kapplöpning mot klockan för att hitta lösningar innan bubblan av syntetiskt innehåll spricker.
Nyckeln kommer att vara att etablera robusta mekanismer som garanterar att AI-modeller förblir användbara och exakta, och därmed undvika det kollaps som många fruktar.
