Prawdziwe wyzwanie AI w firmach

Prawdziwe Wyzwanie: Budowanie Aplikacji AI dla Przedsiębiorstw

Mimo ogromnych zasobów inwestowanych każdego roku w trenowanie Dużych Modeli Językowych (LLM), pozostaje istotna przeszkoda: skuteczne integrowanie tych modeli w praktyczne, użyteczne aplikacje.

Iluzja Dostrajania (Fine-Tuning)

Dostrajanie (fine-tuning) i Generowanie Rozszerzone Wyszukiwaniem (RAG) są ogólnie uważane za dobrze ugruntowane metody poprawy wiedzy i możliwości wstępnie wytrenowanych modeli AI. Jednak dyrektor generalny Aleph Alpha, Jonas Andrulis, zwraca uwagę, że rzeczywistość jest bardziej złożona.

“Rok temu panowało powszechne przekonanie, że dostrajanie jest magicznym rozwiązaniem. Jeśli system AI nie działał zgodnie z oczekiwaniami, odpowiedzią było po prostu dostrajanie. To nie jest takie proste” - wyjaśnił.

Chociaż dostrajanie może modyfikować styl lub zachowanie modelu, nie jest to najskuteczniejsze podejście do uczenia nowych informacji. Oczekiwanie, że samo dostrajanie może rozwiązać wszystkie problemy z aplikacjami AI, jest błędnym przekonaniem.

RAG: Alternatywne Podejście

RAG oferuje alternatywę, działając jak bibliotekarz, który pobiera informacje z zewnętrznego archiwum. To podejście pozwala na aktualizacje i zmiany informacji w bazie danych bez ponownego trenowania lub dostrajania modelu. Dodatkowo, wygenerowane wyniki można cytować i audytować pod kątem dokładności.

“Konkretna wiedza powinna być zawsze udokumentowana i nie przechowywana w parametrach LLM” - podkreślił Andrulis.

Chociaż RAG zapewnia liczne korzyści, jego sukces zależy od właściwej dokumentacji kluczowych procesów, procedur i wiedzy instytucjonalnej w formacie zrozumiałym dla modelu. Niestety, często tak nie jest.

Nawet jeśli dokumentacja istnieje, przedsiębiorstwa mogą napotkać problemy, jeśli dokumenty lub procesy opierają się na danych spoza dystrybucji - danych, które znacznie różnią się od danych użytych do trenowania modelu bazowego. Na przykład model wytrenowany wyłącznie na zbiorach danych w języku angielskim będzie miał trudności z dokumentacją w języku niemieckim, zwłaszcza jeśli zawiera ona wzory naukowe. W wielu przypadkach model może w ogóle nie być w stanie zinterpretować danych.

Dlatego Andrulis sugeruje, że kombinacja dostrajania i RAG jest zazwyczaj konieczna do osiągnięcia znaczących wyników. To hybrydowe podejście wykorzystuje mocne strony obu metod, aby przezwyciężyć ich indywidualne ograniczenia.

Pokonywanie Podziałów

Aleph Alpha ma na celu wyróżnienie się jako europejski DeepMind, podejmując wyzwania, które uniemożliwiają przedsiębiorstwom i narodom rozwijanie własnych suwerennych systemów AI.

Suwerenna AI odnosi się do modeli trenowanych lub dostrajanych przy użyciu wewnętrznych zbiorów danych danego kraju na sprzęcie zbudowanym lub wdrożonym w jego granicach. To podejście zapewnia prywatność, bezpieczeństwo i kontrolę danych, które są kluczowe dla wielu organizacji i rządów.

“Staramy się być systemem operacyjnym, fundamentem dla przedsiębiorstw i rządów do budowania własnej suwerennej strategii AI” - stwierdził Andrulis. “Naszym celem jest wprowadzanie innowacji tam, gdzie to konieczne, przy jednoczesnym wykorzystywaniu technologii open source i najnowocześniejszych technologii, gdzie to możliwe.”

Chociaż czasami wiąże się to z trenowaniem modeli, takich jak Pharia-1-LLM firmy Aleph, Andrulis podkreśla, że nie próbują oni replikować istniejących modeli, takich jak Llama lub DeepSeek. Koncentrują się na tworzeniu unikalnych rozwiązań, które odpowiadają na konkretne wyzwania.

“Zawsze kieruję nasze badania na rzeczy znacząco różne, a nie tylko kopiowanie tego, co robią wszyscy inni, ponieważ to już istnieje” - powiedział Andrulis. “Nie musimy budować kolejnej Llamy lub DeepSeek, ponieważ one już istnieją.”

Zamiast tego Aleph Alpha koncentruje się na budowaniu ram, które upraszczają i usprawniają wdrażanie tych technologii. Ostatnim przykładem jest ich nowa architektura treningowa bez tokenizera, czyli “T-Free”, która ma na celu dostrajanie modeli, które mogą wydajniej rozumieć dane spoza dystrybucji.

Tradycyjne podejścia oparte na tokenizacji często wymagają dużych ilości danych spoza dystrybucji, aby skutecznie dostroić model. Jest to kosztowne obliczeniowo i zakłada, że dostępne są wystarczające dane.

Architektura T-Free firmy Aleph Alpha omija ten problem, eliminując tokenizator. Wczesne testy na ich Pharia LLM w języku fińskim wykazały 70-procentową redukcję kosztów treningu i śladu węglowego w porównaniu z podejściami opartymi na tokenizacji. To innowacyjne podejście sprawia, że dostrajanie jest bardziej dostępne i zrównoważone.

Aleph Alpha opracowała również narzędzia do wypełniania luk w udokumentowanej wiedzy, które mogą prowadzić do niedokładnych lub niepomocnych wniosków.

Na przykład, jeśli dwie umowy dotyczące pytania o zgodność są ze sobą sprzeczne, “system może zwrócić się do człowieka i powiedzieć: ‘Znalazłem rozbieżność… czy możesz przekazać informację zwrotną, czy jest to rzeczywisty konflikt?’” - wyjaśnił Andrulis.

Informacje zebrane za pośrednictwem tego frameworku, zwanego Pharia Catch, można wprowadzić z powrotem do bazy wiedzy aplikacji lub wykorzystać do dostrojenia bardziej efektywnych modeli. Ta pętla sprzężenia zwrotnego poprawia dokładność i niezawodność systemu AI w czasie.

Według Andrulisa, te narzędzia przyciągnęły partnerów, takich jak PwC, Deloitte, Capgemini i Supra, którzy współpracują z klientami końcowymi w celu wdrożenia technologii Aleph Alpha. Te partnerstwa demonstrują wartość i praktyczność rozwiązań Aleph Alpha w rzeczywistych zastosowaniach.

Czynnik Sprzętowy

Oprogramowanie i dane to nie jedyne wyzwania stojące przed użytkownikami Suwerennej AI. Sprzęt jest kolejnym krytycznym czynnikiem.

Różne przedsiębiorstwa i narody mogą mieć specyficzne wymagania dotyczące uruchamiania na sprzęcie opracowanym w kraju lub mogą po prostu dyktować, gdzie mogą być uruchamiane obciążenia. Te ograniczenia mogą znacząco wpłynąć na wybór sprzętu i infrastruktury.

Oznacza to, że Andrulis i jego zespół muszą obsługiwać szeroki zakres opcji sprzętowych. Aleph Alpha przyciągnęła eklektyczną grupę partnerów sprzętowych, w tym AMD, Graphcore i Cerebras.

W zeszłym miesiącu Aleph Alpha ogłosiła partnerstwo z AMD w celu wykorzystania akceleratorów serii MI300. Ta współpraca wykorzysta zaawansowany sprzęt AMD do przyspieszenia treningu i wnioskowania AI.

Andrulis podkreślił również współpracę z Graphcore, przejętym przez Softbank, oraz Cerebras, którego akceleratory CS-3 w skali wafla są wykorzystywane do trenowania modeli AI dla niemieckich sił zbrojnych. Te partnerstwa demonstrują zaangażowanie Aleph Alpha w współpracę z różnymi dostawcami sprzętu, aby sprostać specyficznym potrzebom swoich klientów.

Pomimo tych współprac, Andrulis nalega, że celem Aleph Alpha nie jest stanie się dostawcą usług zarządzanych lub dostawcą chmury. “Nigdy nie staniemy się dostawcą chmury” - stwierdził. “Chcę, aby moi klienci byli wolni i bez blokowania.” To zaangażowanie w wolność i elastyczność klienta wyróżnia Aleph Alpha spośród wielu innych firm zajmujących się AI.

Droga Przed Nami: Rosnąca Złożoność

Patrząc w przyszłość, Andrulis przewiduje, że budowanie aplikacji AI stanie się bardziej złożone, ponieważ branża przechodzi od chatbotów do agentowych systemów AI zdolnych do bardziej zaawansowanego rozwiązywania problemów.

Agentowa AI zyskała znaczną uwagę w ciągu ostatniego roku, a twórcy modeli, programiści i dostawcy sprzętu obiecują systemy, które mogą asynchronicznie wykonywać wieloetapowe procesy. Wczesne przykłady obejmują Operator OpenAI i interfejs API użycia komputera Anthropic. Te agentowe systemy AI stanowią znaczący postęp w możliwościach AI.

“W zeszłym roku skupialiśmy się głównie na prostych zadaniach, takich jak podsumowywanie dokumentów lub pomoc w pisaniu” - powiedział. “Teraz staje się to bardziej ekscytujące dzięki rzeczom, które na pierwszy rzut oka nawet nie wydają się być problemami genAI, gdzie doświadczenie użytkownika nie jest chatbotem.” To przesunięcie w kierunku bardziej złożonych i zintegrowanych aplikacji AI stwarza nowe wyzwania i możliwości dla branży.

Kluczowe Wyzwania w Budowaniu Aplikacji AI dla Przedsiębiorstw:

• Pokonywanie luki między treningiem modelu a integracją aplikacji: Skuteczne przełożenie możliwości LLM na praktyczne aplikacje pozostaje istotną przeszkodą.
• Przezwyciężanie ograniczeń dostrajania: Samo dostrajanie jest często niewystarczające do uczenia modeli AI nowych informacji lub dostosowywania ich do konkretnych zadań.
• Zapewnienie jakości i dostępności danych: RAG opiera się na dobrze udokumentowanych i łatwo dostępnych danych, których często brakuje w wielu organizacjach.
• Obsługa danych spoza dystrybucji: Modele AI muszą być w stanie obsługiwać dane, które różnią się od danych, na których zostały wytrenowane, co wymaga specjalistycznych technik.
• Rozwiązywanie problemów z ograniczeniami sprzętowymi: Różne przedsiębiorstwa i narody mają różne wymagania sprzętowe, które należy wziąć pod uwagę.
• Utrzymanie prywatności i bezpieczeństwa danych: Suwerenna AI wymaga zapewnienia, że dane są przetwarzane i przechowywane bezpiecznie w granicach kraju.
• Rozwijanie agentowych systemów AI: Budowanie aplikacji AI, które mogą wykonywać złożone, wieloetapowe procesy asynchronicznie, jest trudnym, ale obiecującym obszarem badań.

Kluczowe Możliwości w Budowaniu Aplikacji AI dla Przedsiębiorstw:

• Rozwijanie innowacyjnych rozwiązań AI: Wyzwania w budowaniu aplikacji AI dla przedsiębiorstw stwarzają możliwości opracowywania innowacyjnych rozwiązań, które odpowiadają na konkretne potrzeby.
• Wykorzystywanie technologii open source: Technologie open source mogą pomóc obniżyć koszty i przyspieszyć rozwój aplikacji AI.
• Współpraca z partnerami sprzętowymi: Współpraca z partnerami sprzętowymi może pomóc w zapewnieniu, że aplikacje AI są zoptymalizowane pod kątem konkretnych platform sprzętowych.
• Budowanie suwerennych możliwości AI: Suwerenna AI może zapewnić narodom i organizacjom większą kontrolę nad ich danymi i infrastrukturą AI.
• Transformacja branż za pomocą AI: AI ma potencjał do transformacji branż poprzez automatyzację zadań, poprawę podejmowania decyzji i tworzenie nowych produktów i usług.

Przyszłość Aplikacji AI dla Przedsiębiorstw:

Przyszłość aplikacji AI dla przedsiębiorstw prawdopodobnie będzie charakteryzować się:

• Zwiększoną złożonością: Aplikacje AI staną się bardziej złożone i zintegrowane, wymagając specjalistycznej wiedzy i narzędzi.
• Większym naciskiem na jakość danych: Jakość danych stanie się coraz ważniejsza, ponieważ aplikacje AI opierają się na dokładnych i niezawodnych danych.
• Większym naciskiem na bezpieczeństwo i prywatność: Bezpieczeństwo i prywatność będą najważniejsze, ponieważ aplikacje AI obsługują wrażliwe dane.
• Szerszym wdrożeniem agentowej AI: Agentowe systemy AI staną się bardziej powszechne, ponieważ organizacje dążą do automatyzacji złożonych zadań.
• Kontynuacją innowacji: Dziedzina AI będzie nadal szybko ewoluować, prowadząc do nowych przełomów i możliwości.

Poprzez sprostanie wyzwaniom i wykorzystanie możliwości, organizacje mogą wykorzystać moc AI do transformacji swoich firm i stworzenia lepszej przyszłości.