Egy érdekes véleménycikk látott napvilágot az InfoWorld hasábjain, és arról elmélkedik, hogy miként alakul a hibázás a mesterséges intelligenciával támogatott világban.
A cikk a generatív mesterséges intelligencia (AI) és a szoftverfejlesztés kapcsolatát tárgyalja, kiemelve, hogy bár az AI óriási hatékonyságnövelő eszköz lehet, a generatív AI használata számos új kihívást is felvet. Az AI által generált kód hibái jelentősen eltérhetnek az emberi programozók által elkövetett hibáktól, márpedig ezek felismerése és javítása újfajta képzést és szemléletmódot igényel a fejlesztők részéről.
A cikk javasolja, hogy az AI-t ne hagyjuk teljesen autonóm módon kódolni, hanem egy „ember a folyamatban” megközelítéssel biztosítsuk a kód minőségét. A generatív AI eszközök ugyan sokat segíthetnek a kódolás automatizálásában, de szükség van emberi beavatkozásra, hogy az AI által generált kód ne vezessen súlyos biztonsági vagy funkcionális problémákhoz. Hiszen mi van, ha a programozás közben ugyanolyan hallucinációkkal előállított adatokra támaszkodik, amikkel az LLM-eknél találkozhatunk? Vagy mi van, ha idő közben az AI saját nyelvet fejleszt, esetleg olyan kiskaput épít be, amin keresztül hozzáférhet a kódhoz a könnyebb javíthatóság érdekében, nem számolva azzal, hogy ezt a behatolást rossz szándékú emberi fejlesztők is megtehetik?
A jövő programozói inkább stratégiai szerepeket tölthetnek be, ahol a kód célját és funkcióit határozzák meg, míg az AI a kód létrehozásának unalmasabb részét végzi, de a kreativitása és intuíciói egyelőre csak kontrolláltan játszanak szerepet. Az emberi programozók feladata lesz a kód minőségének biztosítása és az AI által generált problémák kezelése.
A generált kód “alien” jellegű hibákat okozhat, mint például képzeletbeli modulok létrehozása vagy nem létező keretrendszerek használata. Ezeket a hibákat gyakran nehéz felismerni hagyományos módszerekkel. Az AI hibák felismerésére a programozási vezetőket új típusú hibák azonosítására kell képezni, mivel ezek eltérnek az emberi hibáktól. Az AI által okozott hibák kezelése külön felkészülést igényel, és a szerző szerint egyszerűbb, ha rögtön olyanokat képzünk erre a feladatra, akik a hagyományos emberi hibák kiszűrésében még nem járatosak, hanem rögtön az AI-generálta hibákra specializálódhatnak. A hibák kiszűrése során pedig egy fontos emberi tulajdonságunkon kell felülemelkedni: ha olyan hibával találkozunk, amit magunktól sosem követnénk el, akkor hajlamosak vagyunk lenézni a másikat. Márpedig az AI esetében ilyen hajmeresztően együgyű lépésekre még sokáig számítanunk kell, annak ellenére, hogy számos tevékenységben fényéveket ver ránk ez a technológia. Fel kell ismernünk, hogy a hibázási mintázat teljesen más mint az emberek esetében, ugyanakkor a mi felelősségünk is, hogy milyen hibákra tanítjuk a mesterséges intelligenciát.