Azóta használom a #ChatGPT-t és más #AI chatbotokat, amióta nyilvánosan elérhetők.
Az alábbiakban felsorolok a 6 félelmetes tényt a ChatGPT-ről, amivel érdemes tisztában lenned...
- Az AI chatbotok ELKÉPESZTŐ mennyiségű pontatlan információt képesek adni. Ha nem vagy szakértő a témában, sosem tudhatod, hogy igaz-e, amit épp olvasol. A legjobb, ha a generált választ tényellenőrzéssel és más internetes forrásokkal összehasonlítva csekkolod. Szerintem a jól megszokott (pl. Google) “keresés” még egy jó ideig velünk marad.
- A mesterséges intelligencia chatbotok gond nélkül képesek akár találgatni is, hogy válaszoljanak egy adott kérdésre, vagy alátámasszák az eredeti érvelésüket. Több alkalommal tapasztaltam már ilyet, és más felhasználók is beszámoltak róla.
- Az AI olykor kitalált tényeket és adatokat is gyárt és olyan termékeket ajánlhat, amelyek nem is léteznek. Nemrég a Google Bard olyan könyveket ajánlott, amelyek nem is léteznek. Az AI kontroll nélküli alkalmazása az e-kereskedelemben azt eredményezheti, hogy a vásárlók nem az “AI-generált” leírásnak megfelelő termékeket/szolgáltatásokat kapnak meg, csak valami hasonlót.
- Az AI chatbot vagy bármilyen AI eszköz használata szakterületi ismeretek nélkül veszélybe sodorhat a munkahelyeden, ha vakon megbízol minden kimenetben. Olvashatunk olyan cikkeket, hogy sok vállalat kirúgja a szakértőit és AI eszközökkel helyettesíti őket. Elég kemény ráébredés vár rájuk hamarosan! Rendkívül brand-romboló valótlan tények állítása a weblapokon, beadványokon, hivatalos iratokon.
- Az AI chatbotok nem marketingcsatornák. Gyakran nem tudnak hivatkozni adatforrásokra. Úgy tűnik, hogy több adatforrásból szerzett adatokat átnéznek, “megértésüket kialakítják” (gépi tanulással), majd egyedi válaszokat adnak, amelyek a legjobban válaszolnak a kérdésre.
Úgy alkották és programozták őket, hogy a felhasználókat egy helyen tartsák (leginkább a ChatGPT felhasználói felületén belül) és ott válaszoljanak minden kérdésre.
Többek között a pl. Te blogodat, a weboldalad cikkeit is felhasználhatják a hatalmas adathalmazuk bővítésére, betanítására, de Te (mint tartalomkészítő) semmit sem kapsz cserébe: sem webes forgalmat, sem konverziót, de még a márkád megemlítését sem. Általában csak akkor említik a márkát, ha más módon nem lehet válaszolni a kérdésre. - A ChatGPT-t az RLHF (Reinforcement Learning from Human Feedback) módszerrel képzik ki. Valódi emberi trénerek irányítják a válaszait. A legtöbben nem tudnak erről. Azt hiszik, hogy az egész folyamat teljesen automatizált. Nem tudjuk, hogy ezek az emberi AI-trénerek kik, vagy mi a szándékuk, politikai és vallási meggyőződésük, világnézetük.
Az AI algoritmusoknak nincs saját szándékuk vagy elfogultságuk, de a készítőiknek van. És ezek a szándékok és elfogultságok gyakran tükröződnek a chatGPT válaszaiban. Amikor vitázol a ChatGPT-vel bizonyos témákról/kérdésekről, nem fogja megváltoztatni a nézeteit (azaz válaszait), még akkor sem, ha azok nem logikai vagy érvelési alapokon nyugszanak.
A ChatGPT válaszaiban egyértelműen látható az elfogultság. Az alapértelmezett válaszai gyakran politikailag meggondolatlanok és néha nyilvánvalóan pontatlanok. A kérések módosításával és cáfolhatatlan bizonyítékokkal meggyőzheted a ChatGPT-t, hogy változtasson véleményén és elismerje, hogy tévedett. Legtöbbször pontos ismeretekkel rendelkezik valójában, mégis inkább úgy dönt, hogy hazudik vagy félremagyarázza, még bizonyos dokumentált tényeket is, hogy alátámassza a saját narratíváját.
Érdemes elolvasni példakánt ezt a meghökkentő társalgást a ChatGPT-vel.