TÜ teadusarvutuste keskus pakub tehisaruga seotud teenuseid

Tartu Ülikooli teadusarvutuste keskus pakub nüüdisaegset ja turvalist arvutusressurssi tehisarumudelite treenimiseks ning käitamiseks. Teenus võimaldab kasutada suure jõudlusega graafikaprotsessori (GPU) arvutusvõimsust nii ülikooli kohalikus kõrgjõudlustöötlusklastris Rocket kui ka Euroopa ühes kiireimas superarvutis LUMI (Large Unified Modern Infrastructure).

Keskuse pakutav arvutusressurss sobib nii masin- ja süvaõppemudelite arendamiseks, peenhäälestamiseks kui ka juba loodud mudelite käitamiseks teadus-, arendus- ja rakendusprojektides. Teenust saab kasutada muu hulgas suurte keelemudelite, pilditöötlus- ja ennustusmudelite ning teiste masinõppesüsteemide arendamiseks ja kasutuselevõtuks.

Kasutajatele, kes ei soovi rinda pista keelemudelite juurutamise, seadistamise ja haldamise tehnilise keerukusega, pakume võimalust kasutada eelkonfigureeritud mudeleid keelemudelite järeldusteenuse ehk tehisarule ülesannete andmise kaudu. See võimaldab keskenduda rohkem rakenduste arendamisele ja uute lahenduste loomisele, ilma et oleks vaja hallata mudeleid, taristut või muid toetavaid süsteeme. Pakume juurdepääsu kaasaegsetele keelemudelitele standardse OpenAI API spetsifikatsiooniga ühilduva rakendusliidese kaudu. See võimaldab olemasolevaid tööriistu ja rakendusi hõlpsalt ühendada ning vähendab arenduskulu. Et tagada jõudlus ja töökindlus, kohaldub teenus automaatselt ka suuremahulise töövoo vajadusteks.

Teadusarvutuste keskus areneb ka ise jõudsalt ning aitab viia tehisaruprojektid ideedest kuni toimivate lahendusteni, pakkudes selleks vajalikku arvutusvõimsust ja eksperditeadmisi. Kerge vaevaga saab alustada tööd näiteks masinõpperaamistikuga PyTorch või suurte keelemudelite käitamisega seotud tööriistadega vLLM või Ollama, mille kohta saab teadusarvutuskeskuselt ka nõustamist. Samuti pakume Kubernetese platvormi, mis sobib hästi kasutajate pikaajaliste teenuste püsivaks haldamiseks.