Erozja otwartości: AI 'open source' często nią nie jest

Termin ‘open source’ ma potężny rezonans w świecie technologii. Przywołuje obrazy wspólnej innowacji, dzielonej wiedzy i fundamentalnej wiary w przejrzystość. Ten duch został żywo ucieleśniony pół wieku temu wraz z powstaniem Homebrew Computer Club w Menlo Park w Kalifornii. Ten kolektyw entuzjastów i majsterkowiczów nie tylko budował maszyny; zbudował kulturę opartą na swobodnej wymianie pomysłów i oprogramowania, kładąc podwaliny pod ruch open-source, który zrewolucjonizował informatykę. Jednak dzisiaj to ciężko wywalczone dziedzictwo i sama definicja otwartości stają w obliczu subtelnego, ale znaczącego wyzwania, szczególnie w szybko rozwijającej się dziedzinie sztucznej inteligencji. Rosnąca liczba firm rozwijających zaawansowane modele AI chętnie określa swoje dzieła mianem ‘open source’, ale bliższe spojrzenie ujawnia, że ta etykieta jest często stosowana powierzchownie, maskując rzeczywistość, która nie spełnia podstawowych założeń ruchu. To rozmycie znaczenia nie jest jedynie semantyczną drobnostką; stanowi realne zagrożenie dla zasad przejrzystości i powtarzalności, które są najważniejsze, zwłaszcza w społeczności naukowej.

Zrozumienie Prawdziwego Ducha Otwartej Współpracy

Aby zrozumieć obecną sytuację, trzeba najpierw docenić, co naprawdę oznacza ‘open source’. To więcej niż tylko darmowe oprogramowanie; to filozofia zakorzeniona we wspólnym postępie i weryfikowalnym zaufaniu. Podstawą tej filozofii są cztery podstawowe wolności:

1. Wolność uruchamiania programu w dowolnym celu.
2. Wolność badania, jak program działa, i zmieniania go, aby wykonywał obliczenia zgodnie z Twoimi życzeniami. Warunkiem wstępnym jest dostęp do kodu źródłowego.
3. Wolność redystrybucji kopii, abyś mógł pomagać innym.
4. Wolność dystrybucji kopii Twoich zmodyfikowanych wersji innym. W ten sposób możesz dać całej społeczności szansę skorzystania z Twoich zmian. Warunkiem wstępnym jest dostęp do kodu źródłowego.

Te wolności, zazwyczaj zapisane w licencjach takich jak GNU General Public License (GPL), MIT License czy Apache License, historycznie koncentrowały się na kodzie źródłowym. Kod źródłowy – czytelne dla człowieka instrukcje napisane przez programistów – jest planem tradycyjnego oprogramowania. Udostępnienie tego kodu pozwala każdemu go sprawdzić, zrozumieć jego logikę, zidentyfikować potencjalne wady, dostosować go do nowych potrzeb i dzielić się tymi ulepszeniami.

Ten model był niezwykłym katalizatorem innowacji i postępu naukowego. Rozważmy wpływ narzędzi łatwo dostępnych dla badaczy na całym świecie:

• Analiza statystyczna: Oprogramowanie takie jak R Studio zapewnia potężne, przejrzyste i rozszerzalne środowisko do obliczeń statystycznych i grafiki, stając się kamieniem węgielnym analizy danych w niezliczonych dziedzinach nauki. Jego otwartość pozwala na recenzowanie metod i rozwój specjalistycznych pakietów.
• Obliczeniowa mechanika płynów: OpenFOAM oferuje zaawansowaną bibliotekę do symulacji przepływów płynów, kluczową w dziedzinach od inżynierii lotniczej po nauki o środowisku. Jego otwarta natura umożliwia dostosowywanie i weryfikację złożonych symulacji.
• Systemy operacyjne: Linux i inne systemy operacyjne open-source stanowią trzon dużej części światowej infrastruktury obliczeniowej, w tym naukowych klastrów obliczeniowych o wysokiej wydajności, cenionych za stabilność, elastyczność i przejrzystość.

Korzyści wykraczają daleko poza zwykłe oszczędności kosztów. Open source sprzyja powtarzalności, kamieniowi węgielnemu metody naukowej. Kiedy narzędzia i kod używane w badaniach są otwarte, inni naukowcy mogą powtórzyć eksperymenty, zweryfikować wyniki i budować na tej pracy z ufnością. Promuje globalną współpracę, przełamując bariery i pozwalając badaczom z różnych środowisk i instytucji przyczyniać się do wspólnych wyzwań. Zapewnia długowieczność i unikanie uzależnienia od dostawcy, chroniąc inwestycje badawcze przed kaprysami firm tworzących oprogramowanie własnościowe. Przyspiesza odkrycia, umożliwiając szybkie rozpowszechnianie i iterację nowych pomysłów i technik. Etos open-source jest fundamentalnie zgodny z naukowym dążeniem do wiedzy poprzez przejrzystość, kontrolę i wspólny postęp.

Sztuczna Inteligencja: Zupełnie Inna Bestia

Ugruntowany paradygmat open-source, bezpiecznie zbudowany wokół dostępności kodu źródłowego, napotyka znaczące turbulencje, gdy jest stosowany w dziedzinie sztucznej inteligencji, zwłaszcza w przypadku modeli na dużą skalę, takich jak fundamentalne duże modele językowe (LLM). Chociaż te systemy AI z pewnością obejmują kod, ich funkcjonalność i zachowanie są kształtowane przez znacznie bardziej złożone i często nieprzejrzyste elementy. Samo udostępnienie kodu architektury sieci neuronowej nie jest równoznaczne z prawdziwą otwartością w taki sposób, jak w przypadku tradycyjnego oprogramowania.

Model AI, zwłaszcza model głębokiego uczenia, zazwyczaj składa się z kilku kluczowych składników:

1. Architektura Modelu: Jest to strukturalny projekt sieci neuronowej – układ warstw, neuronów i połączeń. Firmy często udostępniają te informacje, przedstawiając je jako dowód otwartości. Jest to porównywalne do udostępnienia planu silnika.
2. Wagi Modelu (Parametry): Są to wartości liczbowe, często miliardy, w sieci, które zostały dostosowane podczas procesu treningu. Reprezentują one wyuczone wzorce i wiedzę wyekstrahowaną z danych treningowych. Udostępnienie wag pozwala innym używać wstępnie wytrenowanego modelu. To jak dostarczenie w pełni zmontowanego silnika, gotowego do pracy.
3. Dane Treningowe: Jest to być może najważniejszy i najczęściej ukrywany komponent. Modele fundamentalne są trenowane na kolosalnych zbiorach danych, często pobieranych z internetu lub pochodzących z zastrzeżonych lub prywatnych kolekcji (takich jak dokumentacja medyczna, co budzi poważne obawy dotyczące prywatności). Skład, kuracja, filtrowanie i potencjalne uprzedzenia w tych danych głęboko wpływają na możliwości, ograniczenia i etyczne zachowanie modelu. Bez szczegółowych informacji o danych treningowych zrozumienie, dlaczego model zachowuje się w określony sposób, lub ocena jego przydatności i bezpieczeństwa dla konkretnych zastosowań staje się niezwykle trudna. To tajna mieszanka paliwowa i precyzyjne warunki, w jakich silnik był docierany.
4. Kod i Proces Treningowy: Obejmuje to konkretne algorytmy używane do treningu, techniki optymalizacji, wybrane hiperparametry (ustawienia kontrolujące proces uczenia), wykorzystaną infrastrukturę obliczeniową i znaczące zużycie energii. Niewielkie różnice w procesie treningowym mogą prowadzić do różnych zachowań modelu, co utrudnia powtarzalność, nawet jeśli architektura i dane byłyby znane. Reprezentuje to szczegółowe specyfikacje inżynieryjne, narzędzia i warunki fabryczne użyte do budowy i dostrojenia silnika.

Wiele systemów obecnie sprzedawanych jako ‘open source’ AI oferuje głównie dostęp do architektury modelu i wstępnie wytrenowanych wag. Chociaż pozwala to użytkownikom uruchamiać model i być może dostrajać go na mniejszych zbiorach danych, krytycznie zawodzi w zapewnieniu niezbędnej przejrzystości dotyczącej danych treningowych i procesu. To poważnie ogranicza możliwość prawdziwego badania podstawowych właściwości modelu lub modyfikowania go w głęboko znaczący sposób, który wymaga ponownego treningu lub zrozumienia jego pochodzenia. Wolności badania i modyfikowania, kluczowe dla definicji open-source, są znacznie ograniczone, gdy kluczowe elementy danych i metodologii treningu pozostają ukryte. Odtworzenie tworzenia modelu od podstaw – kluczowy test naukowego zrozumienia i weryfikacji – staje się praktycznie niemożliwe.

Niepokojący Trend ‘Openwashingu’ w AI

Ta przepaść między etykietą a rzeczywistością dała początek praktyce znanej jako ‘openwashing’. Termin ten opisuje działanie firm wykorzystujących pozytywną reputację i postrzegane korzyści ‘open source’ do celów marketingowych i strategicznych, jednocześnie wstrzymując dostęp do krytycznych komponentów, takich jak szczegółowe informacje o danych treningowych lub kod użyty do samego treningu. Okrywają swoje systemy językiem otwartości, nie przyjmując w pełni jej wymagających zasad przejrzystości i dostępu społeczności.

Kilka prominentnych modeli AI, mimo że są szeroko stosowane i czasami noszą oznaczenie ‘otwarte’, nie spełnia wymogów, gdy mierzy się je kompleksową definicją open source promowaną przez organizacje takie jak Open Source Initiative (OSI). Analiza przeprowadzona przez OSI, która od 2022 roku pilnie pracuje nad wyjaśnieniem znaczenia open source w kontekście AI, zwróciła uwagę na obawy dotyczące kilku popularnych modeli:

• Llama 2 & Llama 3.x (Meta): Chociaż wagi modelu i architektura są dostępne, ograniczenia użytkowania i niepełna przejrzystość dotycząca pełnego zbioru danych treningowych i procesu ograniczają ich zgodność z tradycyjnymi wartościami open-source.
• Grok (X): Podobnie, chociaż udostępniony, brak kompleksowych informacji o jego danych treningowych i metodologii budzi pytania o jego prawdziwą otwartość.
• Phi-2 (Microsoft): Często opisywany jako ‘otwarty model’, pełna przejrzystość dotycząca procesu jego tworzenia i danych pozostaje ograniczona.
• Mixtral (Mistral AI): Chociaż części są udostępniane, nie spełnia pełnych kryteriów open source z powodu ograniczeń w dostępie do wszystkich niezbędnych komponentów do badania i modyfikacji.

Te przykłady kontrastują z wysiłkami dążącymi do większego przestrzegania zasad open-source:

• OLMo (Allen Institute for AI): Opracowany przez instytut badawczy non-profit, OLMo został wyraźnie zaprojektowany z myślą o otwartości, udostępniając nie tylko wagi, ale także kod treningowy i szczegóły dotyczące użytych danych.
• CrystalCoder (LLM360): Projekt społecznościowy dążący do pełnej przejrzystości w całym cyklu życia modelu, w tym danych, procedur treningowych i metryk oceny.

Dlaczego angażować się w openwashing? Motywacje są wieloaspektowe:

1. Marketing i Percepcja: Etykieta ‘open source’ niesie ze sobą znaczną dobrą wolę. Sugeruje współpracę, etyczne praktyki i zaangażowanie na rzecz szerszej społeczności, co może przyciągnąć użytkowników, deweloperów i pozytywną prasę.
2. Budowanie Ekosystemu: Udostępnianie wag modelu, nawet bez pełnej przejrzystości, zachęca deweloperów do budowania aplikacji na bazie systemu AI, potencjalnie tworząc zależny ekosystem, który przynosi korzyści firmie macierzystej.
3. Arbitraż Regulacyjny: Jest to szczególnie niepokojący czynnik. Nadchodzące regulacje, takie jak Akt o Sztucznej Inteligencji Unii Europejskiej (2024), mają nałożyć surowsze wymagania na niektóre systemy AI wysokiego ryzyka. Jednak często proponuje się zwolnienia lub łagodniejszą kontrolę dla ‘darmowego i otwartego oprogramowania’. Stosując etykietę ‘open source’ – nawet jeśli niedokładnie według ustalonych definicji – firmy mogą mieć nadzieję na łatwiejsze poruszanie się po tych regulacjach, unikając potencjalnie kosztownych obciążeń związanych ze zgodnością z zastrzeżonymi systemami wysokiego ryzyka. To strategiczne etykietowanie wykorzystuje potencjalną lukę, podważając intencję regulacji zapewnienia bezpieczeństwa i przejrzystości.

Ta praktyka ostatecznie dewaluuje termin ‘open source’ i tworzy zamieszanie, utrudniając użytkownikom, deweloperom i badaczom rozróżnienie, które systemy AI rzeczywiście oferują przejrzystość i wolności, jakie sugeruje etykieta.

Dlaczego Prawdziwa Otwartość Ma Pilne Znaczenie dla Nauki

Dla społeczności naukowej stawka w tej debacie jest wyjątkowo wysoka. Nauka rozwija się dzięki przejrzystości, powtarzalności i możliwości niezależnej weryfikacji. Rosnąca integracja AI w badaniach – od analizy danych genomicznych i modelowania zmian klimatu po odkrywanie nowych materiałów i zrozumienie złożonych systemów biologicznych – sprawia, że natura tych narzędzi AI jest krytycznie ważna. Poleganie na systemach AI typu ‘czarna skrzynka’ lub tych udających otwartość bez zapewnienia prawdziwej przejrzystości wprowadza głębokie ryzyko:

• Upośledzona Powtarzalność: Jeśli badacze nie mogą uzyskać dostępu do danych treningowych i metodologii stojących za modelem AI użytym w badaniu lub ich zrozumieć, powtórzenie wyników staje się niemożliwe. To fundamentalnie podważa podstawowy filar metody naukowej. Jak można ufać odkryciom lub budować na nich, jeśli nie można ich niezależnie zweryfikować?
• Ukryte Uprzedzenia i Ograniczenia: Wszystkie modele AI dziedziczą uprzedzenia ze swoich danych treningowych i wyborów projektowych. Bez przejrzystości badacze nie mogą odpowiednio ocenić tych uprzedzeń ani zrozumieć ograniczeń modelu. Nieświadome użycie stronniczego modelu może prowadzić do zniekształconych wyników, błędnych wniosków i potencjalnie szkodliwych konsekwencji w świecie rzeczywistym, zwłaszcza w wrażliwych obszarach, takich jak badania medyczne czy nauki społeczne.
• Brak Kontroli: Nieprzejrzyste modele unikają rygorystycznej recenzji naukowej. Społeczność naukowa nie może w pełni zbadać wewnętrznego działania modelu, zidentyfikować potencjalnych błędów w jego logice ani zrozumieć niepewności związanych z jego przewidywaniami. Utrudnia to samokorygujący charakter badań naukowych.
• Zależność od Systemów Korporacyjnych: Poleganie na zamkniętych lub półzamkniętych systemach AI kontrolowanych przez korporacje tworzy zależności. Agendy badawcze mogą być subtelnie wpływane przez możliwości i ograniczenia dostępnych narzędzi korporacyjnych, a dostęp może być ograniczony lub stać się kosztowny, potencjalnie tłumiąc niezależne kierunki badań i poszerzając przepaść między dobrze finansowanymi instytucjami a innymi.
• Stłumiona Innowacja: Prawdziwe open source pozwala badaczom nie tylko używać narzędzi, ale także je analizować, modyfikować, ulepszać i ponownie wykorzystywać. Jeśli kluczowe komponenty modeli AI pozostają niedostępne, ta kluczowa droga do innowacji jest zablokowana. Naukowcy są powstrzymywani przed eksperymentowaniem z nowatorskimi technikami treningowymi, badaniem różnych kombinacji danych lub adaptowaniem modeli do specyficznych, niuansowych pytań badawczych, których pierwotni twórcy nie przewidzieli.

Społeczność naukowa nie może sobie pozwolić na bierne akceptowanie rozmycia terminu ‘open source’. Musi aktywnie opowiadać się za jasnością i domagać się prawdziwej przejrzystości od twórców AI, zwłaszcza gdy te narzędzia są stosowane w kontekstach badawczych. Obejmuje to:

• Promowanie Jasnych Standardów: Wspieranie wysiłków, takich jak te podejmowane przez OSI, w celu ustanowienia jasnych, rygorystycznych definicji tego, co stanowi ‘open-source AI’, definicji obejmujących przejrzystość dotyczącą architektury, wag, danych treningowych i procesów treningowych.
• Priorytetyzacja Weryfikowalnych Narzędzi: Faworyzowanie użycia modeli i platform AI, które spełniają te wysokie standardy przejrzystości, nawet jeśli początkowo są mniej wydajne lub wymagają więcej wysiłku niż łatwo dostępne nieprzejrzyste alternatywy.
• Domaganie się Przejrzystości: Naleganie, aby publikacje dotyczące AI zawierały szczegółowe informacje o użytych modelach, w tym kompleksowe informacje o pochodzeniu danych treningowych, ich przetwarzaniu i potencjalnych uprzedzeniach, a także metodologiach treningowych.
• Wspieranie Prawdziwie Otwartych Projektów: Przyczynianie się do i wykorzystywanie projektów społecznościowych oraz inicjatyw instytucji zaangażowanych w prawdziwą otwartość w rozwoju AI.

Duch Homebrew Computer Club – duch dzielonej wiedzy i wspólnego budowania – jest niezbędny do odpowiedzialnego poruszania się po złożonościach ery AI. Odzyskanie i obrona prawdziwego znaczenia ‘open source’ dla sztucznej inteligencji to nie tylko kwestia czystości terminologicznej; chodzi o ochronę integralności, powtarzalności i ciągłego postępu samej nauki w coraz bardziej zdominowanym przez AI świecie. Droga naprzód wymaga czujności i zbiorowego zaangażowania w zapewnienie, że potężne narzędzia AI są rozwijane i wdrażane w sposób zgodny z zasadami otwartych badań, które tak dobrze służyły nauce przez wieki.