ਡੋਮੇਨ ਮੁਹਾਰਤ: LLMs ਵਿੱਚ ਫਾਈਨ-ਟਿਊਨਿੰਗ, ਮਰਜਿੰਗ
ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (LLMs) ਜਿਵੇਂ Llama ਅਤੇ Mistral ਨੂੰ ਤਕਨੀਕੀ ਖੇਤਰਾਂ ਲਈ ਅਨੁਕੂਲ ਬਣਾਉਣਾ। ਫਾਈਨ-ਟਿਊਨਿੰਗ (CPT, SFT, DPO/ORPO) ਅਤੇ SLERP ਮਰਜਿੰਗ ਦੀ ਵਰਤੋਂ ਨਾਲ ਨਵੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦਾ ਉਭਾਰ, ਖਾਸ ਕਰਕੇ ਵੱਡੇ ਮਾਡਲਾਂ ਵਿੱਚ।
ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (LLMs) ਜਿਵੇਂ Llama ਅਤੇ Mistral ਨੂੰ ਤਕਨੀਕੀ ਖੇਤਰਾਂ ਲਈ ਅਨੁਕੂਲ ਬਣਾਉਣਾ। ਫਾਈਨ-ਟਿਊਨਿੰਗ (CPT, SFT, DPO/ORPO) ਅਤੇ SLERP ਮਰਜਿੰਗ ਦੀ ਵਰਤੋਂ ਨਾਲ ਨਵੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦਾ ਉਭਾਰ, ਖਾਸ ਕਰਕੇ ਵੱਡੇ ਮਾਡਲਾਂ ਵਿੱਚ।
ਇੱਕ ਹਾਲੀਆ ਅਦਾਲਤੀ ਦਸਤਾਵੇਜ਼ ਨੇ ਮੈਟਾ ਅਤੇ ਇਸਦੇ Llama AI ਮਾਡਲ ਦੇ ਹੋਸਟਾਂ ਵਿਚਕਾਰ ਇੱਕ ਮਾਲੀਆ-ਵੰਡ ਮਾਡਲ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹੋਏ, ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਸਮਝੌਤੇ 'ਤੇ ਰੌਸ਼ਨੀ ਪਾਈ ਹੈ।
ਮੈਟਾ, ਡੇਟਾ ਸਾਇੰਸ ਅਫਰੀਕਾ ਦੇ ਸਹਿਯੋਗ ਨਾਲ, ਉਪ-ਸਹਾਰਨ ਅਫਰੀਕਾ ਵਿੱਚ ਸਮਾਜਿਕ ਅਤੇ ਆਰਥਿਕ ਤਰੱਕੀ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ ਲਈ ਇੱਕ ਪਹਿਲਕਦਮੀ ਦੀ ਅਗਵਾਈ ਕਰ ਰਿਹਾ ਹੈ। ਇਹ ਪਹਿਲਕਦਮੀ, Llama ਇਮਪੈਕਟ ਗ੍ਰਾਂਟ, ਸਟਾਰਟਅੱਪਸ ਅਤੇ ਖੋਜਕਰਤਾਵਾਂ ਲਈ $20,000 ਦੀ ਫੰਡਿੰਗ ਦਾ ਮੌਕਾ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ।
ਮੈਟਾ ਦੇ ਲਾਮਾ AI ਮਾਡਲਾਂ ਬਾਰੇ ਇੱਕ ਨਵਾਂ ਖੁਲਾਸਾ ਹੋਇਆ ਹੈ, ਜਿਸ ਵਿੱਚ ਕਲਾਉਡ ਹੋਸਟਿੰਗ ਪ੍ਰਦਾਤਾਵਾਂ ਨਾਲ ਆਮਦਨ-ਵੰਡ ਸਮਝੌਤੇ ਸ਼ਾਮਲ ਹਨ। ਇਹ *Kadrey v. Meta* ਕਾਪੀਰਾਈਟ ਮੁਕੱਦਮੇ ਦਾ ਹਿੱਸਾ ਹੈ, ਅਤੇ ਇਹ ਦੱਸਦਾ ਹੈ ਕਿ ਮੈਟਾ ਇਹਨਾਂ ਮਾਡਲਾਂ ਤੋਂ ਕਿਵੇਂ ਲਾਭ ਉਠਾ ਰਿਹਾ ਹੈ। ਮਾਰਕ ਜ਼ੁਕਰਬਰਗ ਦੇ ਪਹਿਲੇ ਬਿਆਨਾਂ ਦੇ ਉਲਟ, ਕੰਪਨੀ ਸਿੱਧੇ ਤੌਰ 'ਤੇ Llama ਤੱਕ ਪਹੁੰਚ ਵੇਚ ਨਹੀਂ ਰਹੀ, ਪਰ ਅਸਿੱਧੇ ਤੌਰ 'ਤੇ ਇਸ ਤੋਂ ਕਮਾਈ ਕਰ ਰਹੀ ਹੈ।
AI ਅਲਾਇੰਸ, IBM ਅਤੇ Meta ਦੁਆਰਾ 50 ਹੋਰ ਸੰਸਥਾਪਕ ਮੈਂਬਰਾਂ ਦੇ ਨਾਲ ਦਸੰਬਰ 2023 ਵਿੱਚ ਸ਼ੁਰੂ ਕੀਤਾ ਗਿਆ, ਤੇਜ਼ੀ ਨਾਲ ਵਧਿਆ ਹੈ। ਇੱਕ ਸਾਲ ਵਿੱਚ, ਇਸਦੀ ਮੈਂਬਰਸ਼ਿਪ 140 ਤੋਂ ਵੱਧ ਸੰਸਥਾਵਾਂ ਤੱਕ ਪਹੁੰਚ ਗਈ ਹੈ, ਜਿਸ ਵਿੱਚ ਕੰਪਨੀਆਂ, ਗੈਰ-ਲਾਭਕਾਰੀ ਸੰਸਥਾਵਾਂ ਅਤੇ ਅਕਾਦਮਿਕ ਸੰਸਥਾਵਾਂ ਸ਼ਾਮਲ ਹਨ।
ਮਾਰਕ ਜ਼ੁਕਰਬਰਗ ਨੇ ਐਲਾਨ ਕੀਤਾ ਕਿ ਮੈਟਾ ਦੇ Llama AI ਮਾਡਲਾਂ ਦੇ ਡਾਊਨਲੋਡ ਇੱਕ ਅਰਬ ਨੂੰ ਪਾਰ ਕਰ ਗਏ ਹਨ, ਜੋ ਦਸੰਬਰ 2024 ਤੋਂ 53% ਦਾ ਵਾਧਾ ਦਰਸਾਉਂਦਾ ਹੈ। ਇਹ ਮਾਡਲ Facebook, Instagram, ਅਤੇ WhatsApp ਸਮੇਤ ਮੈਟਾ ਦੇ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ AI ਸਹਾਇਕ ਨੂੰ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।
ਮੈਟਾ ਆਪਣਾ ਓਪਨ-ਸੋਰਸ ਲਾਰਜ ਲੈਂਗਵੇਜ ਮਾਡਲ (LLM), ਲਾਮਾ 4 ਲਾਂਚ ਕਰਨ ਦੀ ਤਿਆਰੀ ਕਰ ਰਿਹਾ ਹੈ, ਜੋ ਕਿ ਤਰਕ ਯੋਗਤਾਵਾਂ ਅਤੇ ਵੈੱਬ ਨਾਲ ਇੰਟਰੈਕਟ ਕਰਨ ਵਾਲੇ AI ਏਜੰਟਾਂ ਦੀ ਸੰਭਾਵਨਾ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਛਾਲ ਹੈ। ਇਹ ਇਸ ਸਾਲ ਦੇ ਅੰਤ ਵਿੱਚ ਆਉਣ ਦੀ ਉਮੀਦ ਹੈ।
ਮੈਟਾ ਨੇ ਡਾਟਾ ਸਾਇੰਸ ਅਫ਼ਰੀਕਾ ਦੇ ਸਹਿਯੋਗ ਨਾਲ, ਲਾਮਾ ਇਮਪੈਕਟ ਗ੍ਰਾਂਟ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ, ਜੋ ਕਿ ਉਪ-ਸਹਾਰਨ ਅਫ਼ਰੀਕਾ ਵਿੱਚ ਸਟਾਰਟਅੱਪਸ ਅਤੇ ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਸਮਰਥਨ ਕਰਨ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਇੱਕ ਨਵੀਂ ਪਹਿਲ ਹੈ। ਇਹ ਪ੍ਰੋਗਰਾਮ ਮੈਟਾ ਦੇ ਵਿਆਪਕ ਗਲੋਬਲ ਲਾਮਾ ਇਮਪੈਕਟ ਗ੍ਰਾਂਟਸ ਦਾ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਹਿੱਸਾ ਬਣਾਉਂਦਾ ਹੈ।
ਇੰਡੋਨੇਸ਼ੀਆ ਦੀ ਟੈਲਕਾਮ ਆਪਣੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਗਾਹਕਾਂ ਲਈ ਗਾਹਕ ਸੇਵਾ ਵਿੱਚ ਕ੍ਰਾਂਤੀ ਲਿਆਉਣ ਲਈ ਤਿਆਰ ਹੈ। ਕੰਪਨੀ ਨੇ Meta ਦੇ ਓਪਨ-ਸੋਰਸ AI ਮਾਡਲ, LlaMa ਨੂੰ ਆਪਣੇ ਕਾਰੋਬਾਰੀ ਗਾਹਕਾਂ ਦੇ ਚੈਟਬੋਟਸ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ, ਜਿਸ ਨਾਲ WhatsApp ਵਰਗੇ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਗਾਹਕਾਂ ਨਾਲ ਬਿਹਤਰ ਸੰਪਰਕ ਸਥਾਪਿਤ ਹੋਵੇਗਾ।
ਮੈਟਾ ਦੇ ਓਪਨ-ਸੋਰਸ ਲਾਰਜ ਲੈਂਗਵੇਜ ਮਾਡਲ, ਲਾਮਾ ਨੇ ਇੱਕ ਅਰਬ ਤੋਂ ਵੱਧ ਡਾਉਨਲੋਡਸ ਪ੍ਰਾਪਤ ਕੀਤੇ ਹਨ। ਗੂਗਲ ਡੀਪਮਾਈਂਡ ਰੋਬੋਟਿਕਸ ਵਿੱਚ ਕ੍ਰਾਂਤੀ ਲਿਆ ਰਿਹਾ ਹੈ, ਇੰਟੈੱਲ ਲੀਡਰਸ਼ਿਪ ਵਿੱਚ ਤਬਦੀਲੀ ਕਰ ਰਿਹਾ ਹੈ, AI ਅਸਿਸਟੈਂਟਸ ਅਚਾਨਕ ਵਿਵਹਾਰ ਦਿਖਾ ਰਹੇ ਹਨ, ਓਪਨਏਆਈ ਏਕੀਕਰਣ ਨੂੰ ਵਧਾ ਰਿਹਾ ਹੈ, ਇਨਸਿਲਿਕੋ ਮੈਡੀਸਨ ਦਾ ਮੁੱਲ ਅਰਬਾਂ ਡਾਲਰ ਹੈ, ਅਤੇ ਕੋਗਨਿਕਸ਼ਨ ਦਿਮਾਗ-ਕੰਪਿਊਟਰ ਇੰਟਰਫੇਸ ਨਾਲ ਸੰਚਾਰ ਵਿੱਚ ਮਦਦ ਕਰ ਰਿਹਾ ਹੈ।