Még teljesen új vagyok itt. Igazából azért jöttem erre a platformra mert mesélt nekem valaki az AI optimalizálás lehetőségéről. Érdekesebb kérdéseket és válaszokat szeretnék majd létrehozni, kifejezetten abban amiben van tapasztalatom.
Mégis, az első kérdés részemről az lenne, hogy meddig tarthat még ez az LLM mánia, mi lesz ami véget vethet ennek? Persze az optimalizálás része érdekel, de én nagyon hype-nak érzem azért ezt az egészet. Általában minden lufi előbb utóbb kipukkad, érdekes ötletekre, meglátásokra és véleményekre vágyom ebben a témában, persze annak örülnék a legjobban ha programfejlesztő is írna, de minden meglátás érdekel.
Szerintem pont a felhasználói élmény csorbulása. Az emberek egyre átfogóbb és komplexebb beszélgetéseket szeretnének ezekkel a nyelvi modellekkel. Csakhogy sokszor szembesülnek már azzal, hogy mintha mindig mindent elfelejtene. Valójában ez a jelenség pont abból fakadhat, hogy egyre terjedelmesebb chat szövegek zajlanak le, s a felhasználó azt hiszi, ha a chat ablakot nem zárja le, akkor szépen meg is jegyez mindent. Az LLM egyik nagy gátja pont a működési mechanizmusából ered. Mindent előfeltételezés nélkül vizsgál, azaz még ha ugyanabban a chat ablakban is zajlik a kommunikáció, minden egyes begépelt új sor, egy új INPUT a számára és a kontextust a zéróból építi fel. Pont emiatt a legapróbb, de mégis legfontosabb részeket nem fogja tudni sosem megjegyezni, s a mintázatok alapján oda hallucinál eredményként valami hasonlót mint ami például a napokkal az előtti beszélgetésben volt.
Az LLM úgy vélem nem más mint egy sokkal komolyabb dolog vagy terv előszobája, amelyet kifejezetten adatgyűjtésre használtak. Most, hogy elfogytak az anyagok, a régebbi könyvek netes megjelenésére való digitalizálásával próbálják ezt az adathiányt némileg ellensúlyozni, de nem tartom kizártnak, hogy a jövőben inkább egy fejlettebb modell fog szintetikus adatokat gyártani a kevésbé fejlettebb modellek számára.
A lényeg, hogy szerintem a túlhevült LLM mániát pont az fogja drasztikus mértékben redukálni, hogy pont a részletekben való megbízhatatlansága az, ami hosszabb távon az eredménykimenetnél a felhasználói rétegek számára csalódás lesz.
Az előző válasz az adott kérdésre tetszett, de csatlakoznék egy saját észrevételezésem szerinti kiegészítéssel, amivel szintén megválaszolnám a kérdést. Az LLM alapvető halálát abban látom, hogy nincs ezeknél valódi logikai alapú kiértékelés, kizárólag csak a mintázatfelismerés van. A mintázatfelismerés amúgy hasznos elem, de ha egyeduralkodóan ez működik benne, akkor pont használhatatlanná válik az egész.
Komolyabb dolgokat nem fejlesztek AI bevonásával, mármint felhőalapú platformon sosem. Lokális megoldásokkal kísérletezek. De egyszerűbb dolgoknál is van úgy, hogy a felhőalapú LLM cucc felhasználhatósága csődöt mond.
Egy konkrét példával szeretném az általam előadottat prezentálni :
- Az egyik felhőalapú LLM-el közösen írnánk egy kisebb programkódot, csakúgy a játék kedvéért. Semmi komoly, hiszen már elnézést, de az a hülye aki komolyabb szellemi termékét a felhőnek átadja 😉
- Megírom az alapkódot és kiadom neki a feladatot chat alapon, hogy ezt és ezt írd át benne. Mire jön a válasz, hogy ezt nem tudja megtenni, mert nem tudja szerzői jogokra való hivatkozás miatt a teljes kódot visszaadni.😂
Azt a kódot amit én írtam, s adtam neki, azt nem tudja újra leközölni velem, mert szerzői jogsértés lenne Ő felsége véleménye szerint. Itt ezen a ponton látszik, hogy az egyszerű Igaz / Hamis logika is csődöt mond. A kontextust tovább víve persze előbb utóbb elérhető nála, hogy mégis kiadja a kódot, de akkor is, feleslegesen időt pazarló, csorbítja a felhasználói élményt.
1
