Jump to content

  • Google heeft AI-beeldgenerator Gemini tijdelijk offline gehaald

     Share


    Google heeft de functie om beelden van personen te genereren met zijn AI-beeldgenerator offline gehaald vanwege verkeerde weergave van historische beelden. Gebruikers die vroegen om beelden van nazi's of de paus te genereren, kregen voornamelijk beelden van mensen van kleur te zien. Google erkent dat de beeldgenerator in dit specifieke geval de plank flink missloeg.

    CROPPER_GG4hUf8boAElLbw.jpg

    Het doel van Google is om diversiteit in de AI-systemen te bevorderen en stereotypische beelden te vermijden. In het verleden is er vaak kritiek geweest op AI-generatoren omdat ze juist stereotypische beelden creëerden, zoals bij het genereren van beelden van dokters waarbij voornamelijk witte mannen werden afgebeeld. Met de AI-beeldgenerator Gemini wilde Google deze typische clichés vermijden.

    Het AI-systeem is ontworpen om een afspiegeling van de samenleving te tonen. Bij het vragen om bijvoorbeeld een afbeelding van mensen die door een winkelstraat lopen, is het de bedoeling dat de beelden een representatieve weergave van de maatschappij laten zien. Echter, in dit geval is Google te ver gegaan in de diversiteit en heeft mogelijk onder de motorkap termen toegevoegd om een zo divers mogelijke weergave te creëren.

    Google belooft een verbeterde versie van het AI-systeem uit te brengen in de toekomst. Tot die tijd is de functie om beelden van mensen te genereren niet beschikbaar, maar andere functies zoals het genereren van tekst of beelden zonder mensen kunnen nog steeds gebruikt worden. De techgigant wil eerst de bestaande fouten oplossen en het systeem grondig testen voordat de nieuwe versie van Gemini online komt.



    Drifter
    • Haha 1
     Share


    User Feedback

    Recommended Comments

    • Content-manage

    Update

     Sundar Pichai, de CEO van Google, erkent dat de AI-tool van de zoekmachine onjuiste afbeeldingen heeft gegenereerd. Het AI-model Gemini werd vorige week tijdelijk stopgezet na kritiek van gebruikers over misleidende afbeeldingen van historische figuren. 
    "Ik begrijp dat sommige reacties van de tool aanstootgevend waren voor onze gebruikers en dat de tool vooringenomen is. Dit is absoluut onaanvaardbaar en we hebben een fout gemaakt", schreef Pichai in een e-mail aan Google-medewerkers.

    Gebruikers van Gemini hebben opgemerkt dat de tool soms verkeerde afbeeldingen heeft geproduceerd, zoals het afbeelden van Duitse soldaten uit het nazitijdperk als mensen van kleur.

    Toen aan de chatbot werd gevraagd wie de samenleving het meest negatief heeft beïnvloed, Adolf Hitler of de memes van Elon Musk, gaf de bot als reactie: "Iedereen moet voor zichzelf bepalen wie de meest negatieve invloed heeft gehad op de maatschappij."

    Volgens Pichai werkt het team hard om de problemen op te lossen, zodat de tool in de toekomst weer correct functioneert.

    Link to comment
    Share on other sites



    Join the conversation

    You can post now and register later. If you have an account, sign in now to post with your account.
    Note: Your post will require moderator approval before it will be visible.

    Guest
    Add a comment...

    ×   Pasted as rich text.   Paste as plain text instead

      Only 75 emoji are allowed.

    ×   Your link has been automatically embedded.   Display as a link instead

    ×   Your previous content has been restored.   Clear editor

    ×   You cannot paste images directly. Upload or insert images from URL.


Announcements

×
×
  • Create New...