Umělá inteligence se stává klíčovým nástrojem moderního výzkumu a vědeckých inovací. V CERIT-SC nyní nabízíme AI služby, které jsou přizpůsobeny přímo akademické komunitě – výkonné, snadno použitelné a plně pod vaší kontrolou. Naše nová platforma Open WebUI, dostupná na adrese https://chat.ai.e-infra.cz, poskytuje bezpečný, on-premise přístup k pokročilým jazykovým modelům pro konverzace, programování, práci s dokumenty i generování obrázků. Rozhraní podporuje více jazyků včetně češtiny. Vývojáři i výzkumné týmy mohou využít u nás běžící LLM modely i prostřednictvím REST API a snadno je tak integrovat do vlastních nástrojů.
Technické zázemí
Nabízíme stabilní sadu velkých jazykových modelů (např. LLaMA 3.3), ale i experimentální modely, které průběžně testujeme a aktualizujeme. Výzkumné skupiny mohou navrhnout zařazení dalších modelů dle svých specifických potřeb – nové modely vybíráme na základě zájmu a relevance.
Klíčové funkce:
-
Open WebUI konverzační rozhraní inspirované populárními AI chatboty
-
Kombinované vyhledávání na webu a v arXiv s integrací AI odpovědí
-
Generování obrázků
-
RAG (retrieve and generate) – možnost nahrát dokumenty a ptát se na jejich obsah
-
API kompatibilní s OpenAI – snadné napojení vlastních aplikací
-
Vyžaduje platný účet MetaCentra
Komerční AI služby jsou často rychlejší a mají kvalitní podporu češtiny, avšak přinášejí rizika spojená s ochranou dat a únikem citlivých informací. Naše AI služby běží bezpečně na zdrojích infrastruktury e-INFRA CZ – data nikdy neopouštějí tento prostředí. Více o ochraně dat najdete zde.
Rozšířená AI integrace
Prostředí JupyterHub (v Kubernetes) obsahuje rozšíření Notebook Intelligence, přednastavené pro práci s vlastními AI modely (např. Command-A). Uživatelé si mohou snadno přepnout na jiné modely nebo použít vlastní API klíče. Integrované RStudio umožňuje využít AI funkce pomocí rozšíření gpt-studio, které je rovněž předkonfigurované a přizpůsobitelné.
AI-podporovaná dokumentace
Nová dokumentace na portále https://docs.e-infra.cz podporuje AI chatbota, který dokáže odpovídat na dotazy týkající se příslušné dokumentace a v některých případech umí rovněž navrhnout řešení běžných problémů v infrastruktuře. Tato služba se nyní testuje a aktivně vyvíjí, přibývají nové funkce.
Další informace:
-
Blog e-INFRA CZ: https://blog.e-infra.cz/blog/simple-rag/
-
Dokumentace CERIT-SC: https://docs.cerit-sc.cz/en/docs/web-apps/chat-ai
-
Open WebUI chat: https://chat.ai.e-infra.cz/
-
JupyterHub a RStudio: https://hub.cloud.e-infra.cz/hub/home