Prý co říkám na tu umělou inteligenci, když jsem ten ajťák?
Asi takhle: jako hračka dobrý, ale jestli se podle ní hodláte řídit, tak jste cvoci. Proč?
Porozumění psanému textu a následná formulace odpovědi z dat je úžasné inženýrské dílo, o tom žádná. Problém jsou ona data.
AI (artifical intelligence), respektive její nejpopulárnější klon ChatGPT, je naučená na datech posbíraných z netu. Asi jakobyste něco vyhledali, otevřeli náhodný odkaz na první stránce výsledků a to co tam najdete, vzali jako slovo Boží.
Wait… že to tak už děláte? No tak tohle asi píšu zbytečně. But stay with me. Nevím, jak přesná jsou data, řekněme, o chemických reakcích, těm nerozumím. Ale programátorská komunita označuje odpovědi ChatGPT v oblasti, které rozumím, tedy IT, za “autoritativně špatné”.
Problém tkví v tom, že AI vám neřekne “hele, kámo, o tomhle moc nevím, možná to je takhle, ale radši si to ověř.” Ne, ona zrovna vysolí odpověď co vypadá jak od pana profesora. Jenomže někdy je správná, někdy mizerná, někdy vypadá správně, ale je tam skrytá zrádná chybka.
Změní se to do budoucna?
Třeba budou “chytré” AI naučené na datech od skutečných profesorů, to nevím. Ale u současné technologie se spíš budou špatné vzorce posilovat.
Dejme tomu že AI začne tvrdit, že planety jsou jen 3: Země, Uran a Rohlík. Majorita populace takovou věc vezme za pravdu, “protože to přece říkala AI”, začně ji opakovat na své socky a internety, no a hádejte odkud si bere AI data, že?
Klidně používejte AI pro formulaci nudných úředních dopisů, kde na ničem nesejde. Ale informace si ověřujte.
Píšu to zbytečně. Já vím že to píšu zbytečně 🙂
Další posty: