Szokásos, hétvégi AI próbálkozásaim egyike volt a mostani. Cél az Anthropic Claude tesztelése, az AI elérhetőségét vizsgálni a Claude API-n keresztül. Az eddig kipróbált free chat verziók a program kódolások esetében sokszor meglepő, elegáns, jól áttekinthető kódokat produkáltak ezért a kíváncsiság arra ösztönzött, hogy egy nem ingyenes státuszban mit lehet elérni. Ezért némi “kockázatvállalással” regisztráltam a Claude API eléréséhez. Gyors folyamat volt és kiderült, hogy a következő modellek bármelyikét elérhetem az alább megadott limitek mellett. A minimális összeget (5$ + ÁFA) befizetve rögtön rendelkezésre állt szinte minden ráadásul kaptam + 5$-nyi kreditet.
| Modell | Percenkénti kérések száma | Bemeneti tokenek percenként | Kimeneti tokenek percenként |
|---|---|---|---|
| Claude 3.7 Szonett | 50 | 20,000Gyorsítótár-olvasások kizárása | 8,000 |
| Claude 3.5 Szonett 2024-10-22 | 50 | 40,000 | 8,000 |
| Claude 3.5 Haiku | 50 | 50,000 | 10,000 |
| Claude 3.5 szonett 2024-06-20 | 50 | 40,000 | 8,000 |
| Claude 3 Haiku | 50 | 50,000 | 10,000 |
| Claude 3 Opus | 50 | 20,000 | 4,000 |
Mire lehet elég ez? Jogos kérdés, gyors teszt és néhány feladat megoldatása alapján kiszámolva kb. 500000 (félmillió) token áll ezért a pénzért rendelkezésre. Ha valakinek a feladatai nem igénylik a tokenszámokban leírt adatmennyiségekhez a korlátlannak tekinthető AI szolgáltatásokat, akkor ez esetben ez lehet a legolcsóbb megoldás. Külön kiemelendő, hogy a legújabb fejlesztések is hamarabb érhetők el. Nagy előny ekkor, hogy az API előfizetések nem a használati időtartamokra (hónap/év), hanem tokenekben kifejezett adatmennyiségekre szólnak.
Az Anthropic Claude szolgáltatásai a dokumentációk és a használattal összefüggő adatszolgáltatások tekintetében jók. Több API-kulcsot is használhatunk, akár projektenként szelektálhatjuk az adatmennyiségeket (input/output), a hozzátartozó költségekkel együtt.
Próbaként az API használatához generáltam egy Python környezetben működtethető grafikus felülettel rendelkező programot. A felhasználói interface-t tkinter alapúnak választottam.
A bemeneti fájl tartalmazza a promptot, a kimeneti fájlba pedig majd a Claude válaszát tároljuk. Az API paraméterek közül lehetőség van a modell választására, a “Max. token” az input és output tokenek összegére szabhat korlátot. A “Hőmérséklet” paraméter pedig a (0,1) intervallumon belül állítható.
Ha a kiválasztás, a kimeneti fájl nevének megadása, és a többi paraméter beállítása megtörténik, akkor csak el kell küldeni az API-nak. Ettől kezdve csak a rendelkezésre álló Internet paraméterei és a Claude leterheltsége jelenthet korlátot. A próbák során 20-40 másodpercen belül érkeztek válaszok. Az adatmennyiségek a teszt során a prompt esetén kb. 1500 token, a válasz pedig kb. 5000 token volt.