Rodzina Phi się powiększa: Wprowadzenie możliwości multimodalnych
Wkład Microsoftu w tę rozwijającą się dziedzinę SLM to rodzina Phi, zestaw kompaktowych modeli. Czwarta generacja Phi została początkowo wprowadzona w grudniu, a teraz Microsoft rozszerza ofertę o dwa znaczące dodatki: Phi-4-multimodal i Phi-4-mini. Podobnie jak ich rodzeństwo, te nowe modele będą łatwo dostępne za pośrednictwem Azure AI Foundry, Hugging Face i Nvidia API Catalog, a wszystko to na liberalnej licencji MIT.
Phi-4-multimodal, w szczególności, wyróżnia się. Jest to model o 5,6 miliardach parametrów, który wykorzystuje zaawansowaną technikę zwaną „mixture-of-LoRAs” (Low-Rank Adaptations). Takie podejście umożliwia modelowi jednoczesne przetwarzanie mowy, danych wizualnych i tekstowych. LoRAs reprezentują nowatorską metodę zwiększania wydajności dużego modelu językowego w określonych zadaniach, omijając potrzebę szeroko zakrojonego dostrajania wszystkich jego parametrów. Zamiast tego programiści korzystający z LoRA strategicznie wstawiają do modelu mniejszą liczbę nowych wag. Tylko te nowo wprowadzone wagi podlegają uczeniu, co skutkuje znacznie szybszym i bardziej wydajnym pod względem pamięci procesem. Wynikiem jest zbiór lżejszych modeli, które są znacznie łatwiejsze do przechowywania, udostępniania i wdrażania.
Implikacje tej wydajności są znaczące. Phi-4-multimodal osiąga wnioskowanie o niskim opóźnieniu – co oznacza, że może bardzo szybko przetwarzać informacje i dostarczać odpowiedzi – będąc jednocześnie zoptymalizowanym do wykonywania na urządzeniu. Przekłada się to na radykalne zmniejszenie obciążenia obliczeniowego, umożliwiając uruchamianie zaawansowanych aplikacji AI na urządzeniach, które wcześniej nie miały niezbędnej mocy obliczeniowej.
Potencjalne przypadki użycia: od smartfonów po usługi finansowe
Potencjalne zastosowania Phi-4-multimodal są różnorodne i dalekosiężne. Wyobraź sobie model działający bezproblemowo na smartfonach, zasilający zaawansowane funkcje w pojazdach lub napędzający lekkie aplikacje dla przedsiębiorstw. Przekonującym przykładem jest wielojęzyczna aplikacja do usług finansowych, zdolna do rozumienia i odpowiadania na zapytania użytkowników w różnych językach, przetwarzania danych wizualnych, takich jak dokumenty, a wszystko to przy jednoczesnym wydajnym działaniu na urządzeniu użytkownika.
Analitycy branżowi dostrzegają transformacyjny potencjał Phi-4-multimodal. Jest postrzegany jako znaczący krok naprzód dla programistów, szczególnie tych, którzy koncentrują się na tworzeniu aplikacji opartych na AI dla urządzeń mobilnych lub środowisk, w których zasoby obliczeniowe są ograniczone.
Charlie Dai, wiceprezes i główny analityk w Forrester, podkreśla zdolność modelu do integracji przetwarzania tekstu, obrazu i dźwięku z solidnymi możliwościami rozumowania. Podkreśla, że ta kombinacja ulepsza aplikacje AI, zapewniając programistom i przedsiębiorstwom „wszechstronne, wydajne i skalowalne rozwiązania”.
Yugal Joshi, partner w Everest Group, uznaje przydatność modelu do wdrażania w środowiskach o ograniczonych zasobach obliczeniowych. Chociaż zauważa, że urządzenia mobilne mogą nie być idealną platformą dla wszystkich przypadków użycia generatywnej AI, postrzega nowe SLM jako odzwierciedlenie inspiracji Microsoftu DeepSeek, inną inicjatywą skupiającą się na minimalizowaniu zależności od infrastruktury obliczeniowej na dużą skalę.
Testy porównawcze wydajności: mocne strony i obszary do rozwoju
Jeśli chodzi o wydajność w testach porównawczych, Phi-4-multimodal wykazuje lukę w wydajności w porównaniu z modelami takimi jak Gemini-2.0-Flash i GPT-4o-realtime-preview, szczególnie w zadaniach związanych z odpowiadaniem na pytania dotyczące mowy (QA). Microsoft przyznaje, że mniejszy rozmiar modeli Phi-4 z natury ogranicza ich zdolność do zachowywania wiedzy faktograficznej na potrzeby odpowiadania na pytania. Firma podkreśla jednak ciągłe wysiłki mające na celu zwiększenie tej możliwości w przyszłych iteracjach modelu.
Mimo to Phi-4-multimodal wykazuje imponujące mocne strony w innych obszarach. Warto zauważyć, że przewyższa kilka popularnych LLM, w tym Gemini-2.0-Flash Lite i Claude-3.5-Sonnet, w zadaniach obejmujących rozumowanie matematyczne i naukowe, optyczne rozpoznawanie znaków (OCR) i wizualne rozumowanie naukowe. Są to kluczowe możliwości dla szerokiej gamy aplikacji, od oprogramowania edukacyjnego po narzędzia do badań naukowych.
Phi-4-mini: Kompaktowy rozmiar, imponująca wydajność
Oprócz Phi-4-multimodal, Microsoft wprowadził również Phi-4-mini. Ten model jest jeszcze bardziej kompaktowy, oferując 3,8 miliarda parametrów. Jest oparty na gęstej architekturze transformatora tylko z dekoderem i obsługuje sekwencje do imponujących 128 000 tokenów.
Weizhu Chen, wiceprezes ds. generatywnej AI w Microsoft, podkreśla niezwykłą wydajność Phi-4-mini pomimo jego niewielkich rozmiarów. W poście na blogu szczegółowo opisującym nowe modele, zauważa, że Phi-4-mini „nadal przewyższa większe modele w zadaniach tekstowych, w tym w rozumowaniu, matematyce, kodowaniu, wykonywaniu instrukcji i wywoływaniu funkcji”. Podkreśla to potencjał jeszcze mniejszych modeli do dostarczania znacznej wartości w określonych dziedzinach zastosowań.
Aktualizacje Granite firmy IBM: Zwiększanie możliwości rozumowania
Postępy w SLM nie ograniczają się do Microsoftu. IBM wydał również aktualizację swojej rodziny modeli podstawowych Granite, wprowadzając modele Granite 3.2 2B i 8B. Te nowe modele charakteryzują się ulepszonymi możliwościami „łańcucha myśli”, co jest kluczowym aspektem zwiększania zdolności rozumowania. Ta poprawa pozwala modelom osiągnąć lepszą wydajność w porównaniu z ich poprzednikami.
Ponadto IBM zaprezentował nowy model języka wizyjnego (VLM) zaprojektowany specjalnie do zadań związanych z rozumieniem dokumentów. Ten VLM wykazuje wydajność, która dorównuje lub przewyższa wydajność znacznie większych modeli, takich jak Llama 3.2 11B i Pixtral 12B, w testach porównawczych, takich jak DocVQA, ChartQA, AI2D i OCRBench1. Podkreśla to rosnący trend mniejszych, wyspecjalizowanych modeli zapewniających konkurencyjną wydajność w określonych dziedzinach.
Przyszłość AI na urządzeniu: Zmiana paradygmatu
Wprowadzenie Phi-4-multimodal i Phi-4-mini, wraz z aktualizacjami Granite firmy IBM, stanowi znaczący krok w kierunku przyszłości, w której potężne możliwości AI są łatwo dostępne na szerokiej gamie urządzeń. Ta zmiana ma głębokie implikacje dla różnych branż i aplikacji:
- Demokratyzacja AI: Mniejsze, bardziej wydajne modele sprawiają, że AI jest dostępna dla szerszego grona programistów i użytkowników, a nie tylko tych, którzy mają dostęp do ogromnych zasobów obliczeniowych.
- Zwiększona prywatność i bezpieczeństwo: Przetwarzanie na urządzeniu zmniejsza potrzebę przesyłania poufnych danych do chmury, zwiększając prywatność i bezpieczeństwo.
- Poprawiona responsywność i opóźnienie: Lokalne przetwarzanie eliminuje opóźnienia związane z AI opartą na chmurze, co prowadzi do szybszego czasu reakcji i bardziej płynnego doświadczenia użytkownika.
- Funkcjonalność offline: AI na urządzeniu może działać nawet bez połączenia z Internetem, otwierając nowe możliwości dla aplikacji w odległych lub słabo skomunikowanych środowiskach.
- Zmniejszone zużycie energii: Mniejsze modele wymagają mniej energii do działania, co przyczynia się do dłuższej żywotności baterii urządzeń mobilnych i zmniejszenia wpływu na środowisko.
- Aplikacje Edge Computing: Obejmuje to sektory takie jak autonomiczna jazda, inteligentna produkcja i zdalna opieka zdrowotna.
Postępy w SLM napędzają zmianę paradygmatu w krajobrazie AI. Podczas gdy duże modele językowe nadal odgrywają kluczową rolę, rozwój kompaktowych, wydajnych modeli, takich jak te z rodziny Phi, toruje drogę do przyszłości, w której AI jest bardziej wszechobecna, dostępna i zintegrowana z naszym codziennym życiem. Nacisk przesuwa się z czystego rozmiaru na wydajność, specjalizację i możliwość dostarczania potężnych możliwości AI bezpośrednio na urządzeniach, których używamy na co dzień. Trend ten prawdopodobnie przyspieszy, prowadząc do jeszcze bardziej innowacyjnych zastosowań i szerszego przyjęcia AI w różnych sektorach. Zdolność do wykonywania złożonych zadań, takich jak rozumienie multimodalnych danych wejściowych, na urządzeniach o ograniczonych zasobach, otwiera nowy rozdział w ewolucji sztucznej inteligencji.
Trwa wyścig o stworzenie coraz bardziej inteligentnych i wydajnych SLM, a nowa oferta Microsoftu to duży krok naprzód.