Det har lyfts en hel del exempel i sociala medier på hur Chat GPT ibland kommer med svar som verkar vara helt tagna ur luften. Det kan vara allt från att artiklar som anges som referenser inte existerar eller totala tokigheter.

Chat GPT förklarar själv vad felen beror på så här:

Bristande förståelse för sammanhanget: ChatGPT har svårt att förstå sammanhanget i en fråga och därför kan det ge ett felaktigt svar.
Träningsdata: Modellen tränades på befintliga textdata, så om det finns felaktiga information i träningsdatan, kommer detta också att påverka modellens svar.
Begränsad kunskap: Modellen har en begränsad kunskapsbas, så det är möjligt att den inte har informationen som krävs för att besvara en fråga.
Tekniska fel: Ibland kan tekniska fel, såsom en dålig internetuppkoppling, leda till felaktiga svar från modellen.

Det är viktigt att notera att ChatGPT inte är en fullständig expert och dess svar ska alltid granskas och verifieras innan de används.

Ett exempel på när Chat GPT svarar helt galet

Chat GPT talar om skillnaden mellan hästägg och hönsägg

Chat GPT berättar att äggulan i hästägg är mer orange

Chat GPT förklarar hur man gör maränger på hästägg

När hästäggen ifrågasätts medger Chat GPT att hästar är däggdjur.

För att vara rättvis mot Chat GPT: det förekommer hästägg i en del datorspel, exempelvis Minecraft, och det kan vara en fullständigt relevant fråga hur de skiljs från andra ägg. Problemet i det här fallet är att när Chat GPT gått in på ett spår håller den fast vid det så länge man stannar inom samma konversation, även om följdfrågorna borde göra det mycket tydligt att det är en annan typ av ägg som avses.