ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦਾ ਲੈਂਡਸਕੇਪ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਤਬਦੀਲੀ ਵਿੱਚੋਂ ਗੁਜ਼ਰ ਰਿਹਾ ਹੈ। ਸਾਲਾਂ ਤੋਂ, ਗੁੰਝਲਦਾਰ AI ਮਾਡਲਾਂ, ਖਾਸ ਕਰਕੇ ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (LLMs) ਦੀਆਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਕੰਪਿਊਟੇਸ਼ਨਲ ਮੰਗਾਂ ਨੇ ਉਹਨਾਂ ਦੇ ਸੰਚਾਲਨ ਨੂੰ ਮੁੱਖ ਤੌਰ ‘ਤੇ ਵੱਡੇ ਡਾਟਾ ਸੈਂਟਰਾਂ ਵਿੱਚ ਰੱਖੇ ਸ਼ਕਤੀਸ਼ਾਲੀ, ਊਰਜਾ-ਸੰਘਣੀ ਸਰਵਰਾਂ ਨਾਲ ਜੋੜਿਆ ਹੋਇਆ ਸੀ। ਪਹੁੰਚ ਵਿੱਚ ਆਮ ਤੌਰ ‘ਤੇ ਇੰਟਰਨੈਟ ‘ਤੇ ਸਵਾਲ ਭੇਜਣਾ ਅਤੇ ਰਿਮੋਟਲੀ ਪ੍ਰੋਸੈਸ ਕੀਤੇ ਜਵਾਬਾਂ ਦੀ ਉਡੀਕ ਕਰਨਾ ਸ਼ਾਮਲ ਹੁੰਦਾ ਸੀ। ਹਾਲਾਂਕਿ, ਪ੍ਰੋਸੈਸਰ ਤਕਨਾਲੋਜੀ ਵਿੱਚ ਤਰੱਕੀ ਅਤੇ ਡਾਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਲੇਟੈਂਸੀ ਬਾਰੇ ਵਧਦੀਆਂ ਚਿੰਤਾਵਾਂ ਕਾਰਨ ਸਥਾਨਕ ਕੰਪਿਊਟੇਸ਼ਨ ਵੱਲ ਇੱਕ ਮਜਬੂਰ ਕਰਨ ਵਾਲਾ ਬਦਲਾਅ ਗਤੀ ਫੜ ਰਿਹਾ ਹੈ। Advanced Micro Devices (AMD), ਸੈਮੀਕੰਡਕਟਰ ਖੇਤਰ ਵਿੱਚ ਇੱਕ ਮਜ਼ਬੂਤ ਖਿਡਾਰੀ, ਇਸ ਰੁਝਾਨ ਨੂੰ ਸਰਗਰਮੀ ਨਾਲ ਅਪਣਾ ਰਿਹਾ ਹੈ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਨਿੱਜੀ ਕੰਪਿਊਟਰਾਂ ‘ਤੇ ਸਿੱਧੇ ਤੌਰ ‘ਤੇ ਜਨਰੇਟਿਵ AI ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਲਈ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਿਹਾ ਹੈ। ਇਸ ਖੇਤਰ ਵਿੱਚ ਕੰਪਨੀ ਦੀ ਨਵੀਨਤਮ ਪਹਿਲਕਦਮੀ ਇੱਕ ਓਪਨ-ਸੋਰਸ ਪ੍ਰੋਜੈਕਟ ਹੈ ਜਿਸਦਾ ਦਿਲਚਸਪ ਨਾਮ GAIA ਹੈ, ਜੋ ‘Generative AI Is Awesome’ ਦਾ ਸੰਖੇਪ ਰੂਪ ਹੈ।
ਸਥਾਨਕ AI ਪ੍ਰੋਸੈਸਿੰਗ ਦੇ ਯੁੱਗ ਦੀ ਸ਼ੁਰੂਆਤ
ਜਨਰੇਟਿਵ AI ਮਾਡਲਾਂ ਨੂੰ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ ਚਲਾਉਣ ਦਾ ਆਕਰਸ਼ਣ ਬਹੁਪੱਖੀ ਹੈ। ਪਹਿਲਾਂ, ਇਹ ਵਧਦੀਆਂ ਗੋਪਨੀਯਤਾ ਚਿੰਤਾਵਾਂ ਨੂੰ ਹੱਲ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਡਾਟਾ ਉਪਭੋਗਤਾ ਦੇ ਆਪਣੇ ਡਿਵਾਈਸ ‘ਤੇ ਪ੍ਰੋਸੈਸ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਨੂੰ ਤੀਜੀ-ਧਿਰ ਦੇ ਸਰਵਰਾਂ ਨੂੰ ਭੇਜਣ ਦੀ ਜ਼ਰੂਰਤ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ, ਇੱਕ ਅੰਦਰੂਨੀ ਤੌਰ ‘ਤੇ ਵਧੇਰੇ ਸੁਰੱਖਿਅਤ ਸੰਚਾਲਨ ਪੈਰਾਡਾਈਮ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ। ਦੂਜਾ, ਸਥਾਨਕ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਲੇਟੈਂਸੀ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ ਘਟਾ ਸਕਦਾ ਹੈ; ਇਨਪੁਟ ਅਤੇ ਆਉਟਪੁਟ ਵਿਚਕਾਰ ਦੇਰੀ ਘੱਟ ਜਾਂਦੀ ਹੈ ਜਦੋਂ ਕੰਪਿਊਟੇਸ਼ਨਲ ਭਾਰੀ ਕੰਮ ਉਪਭੋਗਤਾ ਇੰਟਰਫੇਸ ਤੋਂ ਸਿਰਫ ਕੁਝ ਮਿਲੀਮੀਟਰ ਦੂਰ ਹੁੰਦਾ ਹੈ, ਨਾ ਕਿ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ ਮਹਾਂਦੀਪਾਂ ਨੂੰ ਪਾਰ ਕਰਨਾ। ਤੀਜਾ, ਇਹ ਪਹੁੰਚ ਨੂੰ ਲੋਕਤੰਤਰੀ ਬਣਾਉਂਦਾ ਹੈ। ਜਦੋਂ ਕਿ ਕਲਾਉਡ-ਅਧਾਰਤ AI ਵਿੱਚ ਅਕਸਰ ਗਾਹਕੀ ਫੀਸ ਜਾਂ ਵਰਤੋਂ ਦੀਆਂ ਸੀਮਾਵਾਂ ਸ਼ਾਮਲ ਹੁੰਦੀਆਂ ਹਨ, ਡਿਵਾਈਸ ‘ਤੇ ਪ੍ਰੋਸੈਸਿੰਗ ਉਸ ਹਾਰਡਵੇਅਰ ਦਾ ਲਾਭ ਉਠਾਉਂਦੀ ਹੈ ਜੋ ਉਪਭੋਗਤਾ ਕੋਲ ਪਹਿਲਾਂ ਤੋਂ ਹੀ ਹੈ, ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ AI ਟੂਲਸ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਲਈ ਦਾਖਲੇ ਦੀ ਰੁਕਾਵਟ ਨੂੰ ਘੱਟ ਕਰਦਾ ਹੈ।
ਇਸ ਸੰਭਾਵਨਾ ਨੂੰ ਪਛਾਣਦੇ ਹੋਏ, AMD ਰਣਨੀਤਕ ਤੌਰ ‘ਤੇ AI ਵਰਕਲੋਡ ਲਈ ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਵਿਸ਼ੇਸ਼ ਪ੍ਰੋਸੈਸਿੰਗ ਕੋਰਾਂ ਨੂੰ ਆਪਣੇ ਪ੍ਰੋਸੈਸਰ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕਰ ਰਿਹਾ ਹੈ। ਇਹਨਾਂ ਯਤਨਾਂ ਦਾ ਸਿਖਰ ਉਹਨਾਂ ਦੇ ਨਵੀਨਤਮ Ryzen AI 300 ਸੀਰੀਜ਼ ਪ੍ਰੋਸੈਸਰਾਂ ਵਿੱਚ ਸਪੱਸ਼ਟ ਹੈ, ਜਿਸ ਵਿੱਚ ਵਧੇ ਹੋਏ Neural Processing Units (NPUs) ਸ਼ਾਮਲ ਹਨ। ਇਹ NPUs ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਕਾਰਜਾਂ ਵਿੱਚ ਪ੍ਰਚਲਿਤ ਖਾਸ ਕਿਸਮ ਦੀਆਂ ਗਣਿਤਿਕ ਕਾਰਵਾਈਆਂ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਇੰਜਨੀਅਰ ਕੀਤੇ ਗਏ ਹਨ, ਅਜਿਹਾ ਰਵਾਇਤੀ CPU ਕੋਰਾਂ ਦੀ ਤੁਲਨਾ ਵਿੱਚ ਗਤੀ ਅਤੇ ਪਾਵਰ ਖਪਤ ਦੋਵਾਂ ਦੇ ਰੂਪ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ ਵਧੇਰੇ ਕੁਸ਼ਲਤਾ ਨਾਲ ਕਰਦੇ ਹਨ। ਇਹ ਬਿਲਕੁਲ ਇਹੀ ਸਮਰਪਿਤ ਹਾਰਡਵੇਅਰ ਹੈ ਜਿਸਨੂੰ AMD ਆਪਣੇ GAIA ਪ੍ਰੋਜੈਕਟ ਦੁਆਰਾ ਮੁੱਖ ਧਾਰਾ ਦੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਅਨਲੌਕ ਕਰਨਾ ਚਾਹੁੰਦਾ ਹੈ। Victoria Godsoe, AMD ਦੀ AI ਡਿਵੈਲਪਰ ਇਨੇਬਲਮੈਂਟ ਮੈਨੇਜਰ, ਨੇ ਇਸ ਟੀਚੇ ‘ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ, ਇਹ ਦੱਸਦੇ ਹੋਏ ਕਿ GAIA ‘ਨਿੱਜੀ ਅਤੇ ਸਥਾਨਕ ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (LLMs) ਨੂੰ ਚਲਾਉਣ ਲਈ Ryzen AI Neural Processing Unit (NPU) ਦੀ ਸ਼ਕਤੀ ਦਾ ਲਾਭ ਉਠਾਉਂਦਾ ਹੈ।’ ਉਸਨੇ ਅੱਗੇ ਲਾਭਾਂ ਨੂੰ ਉਜਾਗਰ ਕੀਤਾ: ‘ਇਹ ਏਕੀਕਰਣ ਤੇਜ਼, ਵਧੇਰੇ ਕੁਸ਼ਲ ਪ੍ਰੋਸੈਸਿੰਗ - ਯਾਨੀ ਘੱਟ ਪਾਵਰ - ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ - ਜਦੋਂ ਕਿ ਤੁਹਾਡੇ ਡਾਟਾ ਨੂੰ ਸਥਾਨਕ ਅਤੇ ਸੁਰੱਖਿਅਤ ਰੱਖਦਾ ਹੈ।’
GAIA ਦੀ ਜਾਣ-ਪਛਾਣ: ਡਿਵਾਈਸ ‘ਤੇ LLM ਡਿਪਲਾਇਮੈਂਟ ਨੂੰ ਸਰਲ ਬਣਾਉਣਾ
GAIA ਇਸ ਸਵਾਲ ਦਾ AMD ਦਾ ਜਵਾਬ ਬਣ ਕੇ ਉੱਭਰਦਾ ਹੈ: ਉਪਭੋਗਤਾ ਆਪਣੀਆਂ ਨਵੀਆਂ Ryzen AI-ਪਾਵਰਡ ਮਸ਼ੀਨਾਂ ਦੀਆਂ NPU ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਗੁੰਝਲਦਾਰ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਆਸਾਨੀ ਨਾਲ ਕਿਵੇਂ ਵਰਤ ਸਕਦੇ ਹਨ? ਇੱਕ ਓਪਨ-ਸੋਰਸ ਐਪਲੀਕੇਸ਼ਨ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ, GAIA ਇੱਕ ਸੁਚਾਰੂ ਇੰਟਰਫੇਸ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜੋ ਖਾਸ ਤੌਰ ‘ਤੇ ਨਵੀਨਤਮ AMD ਹਾਰਡਵੇਅਰ ਨਾਲ ਲੈਸ Windows PCs ‘ਤੇ ਸਿੱਧੇ ਤੌਰ ‘ਤੇ ਛੋਟੇ ਪੈਮਾਨੇ ਦੇ LLMs ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਨਾਲ ਗੱਲਬਾਤ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਪ੍ਰੋਜੈਕਟ ਜਾਣਬੁੱਝ ਕੇ ਮੌਜੂਦਾ ਓਪਨ-ਸੋਰਸ ਫਰੇਮਵਰਕ ‘ਤੇ ਬਣਾਉਂਦਾ ਹੈ, ਖਾਸ ਤੌਰ ‘ਤੇ Lemonade ਨੂੰ ਇੱਕ ਬੁਨਿਆਦ ਵਜੋਂ ਦਰਸਾਉਂਦਾ ਹੈ, ਵਿਆਪਕ ਵਿਕਾਸ ਭਾਈਚਾਰੇ ਦੇ ਅੰਦਰ ਇੱਕ ਸਹਿਯੋਗੀ ਭਾਵਨਾ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦਾ ਹੈ।
GAIA ਦਾ ਮੁੱਖ ਕਾਰਜ LLMs ਨੂੰ ਸਥਾਪਤ ਕਰਨ ਅਤੇ ਚਲਾਉਣ ਨਾਲ ਆਮ ਤੌਰ ‘ਤੇ ਜੁੜੀ ਬਹੁਤ ਸਾਰੀ ਗੁੰਝਲਤਾ ਨੂੰ ਦੂਰ ਕਰਨਾ ਹੈ। ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇੱਕ ਵਧੇਰੇ ਪਹੁੰਚਯੋਗ ਵਾਤਾਵਰਣ ਪੇਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਜੋ AMD ਦੇ Ryzen AI ਆਰਕੀਟੈਕਚਰ ਲਈ ਸ਼ੁਰੂ ਤੋਂ ਅਨੁਕੂਲਿਤ ਹੈ। ਇਹ ਅਨੁਕੂਲਤਾ ਮਹੱਤਵਪੂਰਨ ਹੈ; ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਸੌਫਟਵੇਅਰ NPU ਦੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਵੱਧ ਤੋਂ ਵੱਧ ਕਰਦਾ ਹੈ ਅਤੇ ਊਰਜਾ ਫੁਟਪ੍ਰਿੰਟ ਨੂੰ ਘੱਟ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਕਿ ਪ੍ਰਾਇਮਰੀ ਟੀਚਾ Ryzen AI 300 ਸੀਰੀਜ਼ ਹੈ ਜਿਸ ਵਿੱਚ ਇਸਦਾ ਸ਼ਕਤੀਸ਼ਾਲੀ NPU ਹੈ, AMD ਨੇ ਪੁਰਾਣੇ ਜਾਂ ਵੱਖਰੇ ਹਾਰਡਵੇਅਰ ਕੌਂਫਿਗਰੇਸ਼ਨਾਂ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬਾਹਰ ਨਹੀਂ ਰੱਖਿਆ ਹੈ।
ਇਹ ਪ੍ਰੋਜੈਕਟ ਪ੍ਰਸਿੱਧ ਅਤੇ ਮੁਕਾਬਲਤਨ ਸੰਖੇਪ LLM ਪਰਿਵਾਰਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਵਿਆਪਕ ਤੌਰ ‘ਤੇ ਪਹੁੰਚਯੋਗ Llama ਅਤੇ Phi ਆਰਕੀਟੈਕਚਰ ‘ਤੇ ਅਧਾਰਤ ਮਾਡਲ ਸ਼ਾਮਲ ਹਨ। ਇਹ ਮਾਡਲ, ਭਾਵੇਂ GPT-4 ਵਰਗੇ ਦਿੱਗਜਾਂ ਦੇ ਪੈਮਾਨੇ ਦੇ ਮਾਲਕ ਨਾ ਹੋਣ, ਕਈ ਤਰ੍ਹਾਂ ਦੇ ਡਿਵਾਈਸ-ਅਧਾਰਤ ਕਾਰਜਾਂ ਲਈ ਕਮਾਲ ਦੇ ਸਮਰੱਥ ਹਨ। AMD ਸੰਭਾਵੀ ਵਰਤੋਂ ਦੇ ਮਾਮਲਿਆਂ ਦਾ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਜੋ ਕੁਦਰਤੀ ਗੱਲਬਾਤ ਦੇ ਸਮਰੱਥ ਇੰਟਰਐਕਟਿਵ ਚੈਟਬੋਟਸ ਤੋਂ ਲੈ ਕੇ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਤਰਕ ਕਾਰਜਾਂ ਤੱਕ ਹੁੰਦੇ ਹਨ, GAIA-ਪਾਵਰਡ ਸਥਾਨਕ AI ਲਈ ਕਲਪਿਤ ਬਹੁਪੱਖੀਤਾ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦੇ ਹਨ।
GAIA ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੀ ਪੜਚੋਲ: ਏਜੰਟ ਅਤੇ ਹਾਈਬ੍ਰਿਡ ਪਾਵਰ
ਪ੍ਰੈਕਟੀਕਲ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਨ ਅਤੇ ਤਕਨਾਲੋਜੀ ਨੂੰ ਤੁਰੰਤ ਉਪਯੋਗੀ ਬਣਾਉਣ ਲਈ, GAIA ਪੂਰਵ-ਪਰਿਭਾਸ਼ਿਤ ‘ਏਜੰਟਾਂ’ ਦੀ ਇੱਕ ਚੋਣ ਨਾਲ ਆਉਂਦਾ ਹੈ, ਹਰੇਕ ਇੱਕ ਖਾਸ ਫੰਕਸ਼ਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ:
- Chaty: ਜਿਵੇਂ ਕਿ ਨਾਮ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ, ਇਹ ਏਜੰਟ ਇੱਕ ਗੱਲਬਾਤ ਵਾਲਾ AI ਅਨੁਭਵ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਆਮ ਗੱਲਬਾਤ ਅਤੇ ਸੰਵਾਦ ਲਈ ਇੱਕ ਚੈਟਬੋਟ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਇਹ ਮਨੁੱਖੀ-ਵਰਗੇ ਟੈਕਸਟ ਜਵਾਬ ਪੈਦਾ ਕਰਨ ਲਈ ਅੰਡਰਲਾਈੰਗ LLM ਦੀ ਯੋਗਤਾ ਦਾ ਲਾਭ ਉਠਾਉਂਦਾ ਹੈ।
- Clip: ਇਹ ਏਜੰਟ ਸਵਾਲ-ਜਵਾਬ ਦੇ ਕਾਰਜਾਂ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਕਰਦਾ ਹੈ। ਖਾਸ ਤੌਰ ‘ਤੇ, ਇਸ ਵਿੱਚ Retrieval-Augmented Generation (RAG) ਸਮਰੱਥਾਵਾਂ ਸ਼ਾਮਲ ਹਨ, ਜਿਸ ਨਾਲ ਇਹ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ YouTube ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਵਰਗੇ ਬਾਹਰੀ ਸਰੋਤਾਂ ਤੋਂ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦਾ ਹੈ ਤਾਂ ਜੋ ਵਧੇਰੇ ਸੂਚਿਤ ਜਾਂ ਪ੍ਰਸੰਗਿਕ ਤੌਰ ‘ਤੇ ਸੰਬੰਧਿਤ ਜਵਾਬ ਪ੍ਰਦਾਨ ਕੀਤੇ ਜਾ ਸਕਣ। ਇਹ RAG ਕਾਰਜਕੁਸ਼ਲਤਾ LLM ਦੇ ਸ਼ੁਰੂਆਤੀ ਸਿਖਲਾਈ ਡਾਟਾ ਤੋਂ ਪਰੇ ਏਜੰਟ ਦੇ ਗਿਆਨ ਅਧਾਰ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ ਵਧਾਉਂਦੀ ਹੈ।
- Joker: ਇੱਕ ਹੋਰ RAG-ਅਧਾਰਤ ਏਜੰਟ, Joker ਖਾਸ ਤੌਰ ‘ਤੇ ਹਾਸੇ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਜਿਸਨੂੰ ਚੁਟਕਲੇ ਪੈਦਾ ਕਰਨ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਹੈ। ਇਹ ਸਥਾਨਕ LLMs ਦੀਆਂ ਵਿਸ਼ੇਸ਼, ਰਚਨਾਤਮਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।
- Simple Prompt Completion: ਇਹ ਬੇਸ LLM ਲਈ ਇੱਕ ਵਧੇਰੇ ਸਿੱਧੀ ਲਾਈਨ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪ੍ਰੋਂਪਟ ਇਨਪੁਟ ਕਰਨ ਅਤੇ ਦੂਜੇ ਏਜੰਟਾਂ ਦੀਆਂ ਗੱਲਬਾਤ ਜਾਂ ਕਾਰਜ-ਵਿਸ਼ੇਸ਼ ਪਰਤਾਂ ਤੋਂ ਬਿਨਾਂ ਸਿੱਧੇ ਸੰਪੂਰਨਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਦੀ ਆਗਿਆ ਮਿਲਦੀ ਹੈ। ਇਹ ਸਿੱਧੇ ਮਾਡਲ ਪਰਸਪਰ ਪ੍ਰਭਾਵ ਲਈ ਇੱਕ ਬੁਨਿਆਦੀ ਇੰਟਰਫੇਸ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ।
ਇਹਨਾਂ ਏਜੰਟਾਂ ਦਾ ਐਗਜ਼ੀਕਿਊਸ਼ਨ, ਖਾਸ ਤੌਰ ‘ਤੇ ਇਨਫਰੈਂਸ ਪ੍ਰਕਿਰਿਆ ਜਿੱਥੇ ਮਾਡਲ ਜਵਾਬ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਮੁੱਖ ਤੌਰ ‘ਤੇ ਅਨੁਕੂਲ Ryzen AI 300 ਸੀਰੀਜ਼ ਚਿਪਸ ‘ਤੇ NPU ਦੁਆਰਾ ਸੰਭਾਲਿਆ ਜਾਂਦਾ ਹੈ। ਇਹ ਕੁਸ਼ਲ, ਘੱਟ-ਪਾਵਰ ਸੰਚਾਲਨ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ। ਹਾਲਾਂਕਿ, AMD ਨੇ ਕੁਝ ਸਮਰਥਿਤ ਮਾਡਲਾਂ ਲਈ ਇੱਕ ਵਧੇਰੇ ਉੱਨਤ ‘ਹਾਈਬ੍ਰਿਡ’ ਮੋਡ ਵੀ ਸ਼ਾਮਲ ਕੀਤਾ ਹੈ। ਇਹ ਨਵੀਨਤਾਕਾਰੀ ਪਹੁੰਚ ਪ੍ਰੋਸੈਸਰ ਦੇ ਏਕੀਕ੍ਰਿਤ ਗ੍ਰਾਫਿਕਸ ਪ੍ਰੋਸੈਸਿੰਗ ਯੂਨਿਟ (iGPU) ਨੂੰ NPU ਦੇ ਨਾਲ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਸ਼ਾਮਲ ਕਰਦੀ ਹੈ। iGPU ਦੀ ਸਮਾਨਾਂਤਰ ਪ੍ਰੋਸੈਸਿੰਗ ਸ਼ਕਤੀ ਦਾ ਲਾਭ ਉਠਾ ਕੇ, ਇਹ ਹਾਈਬ੍ਰਿਡ ਮੋਡ ਮੰਗ ਵਾਲੇ AI ਕਾਰਜਾਂ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਦਰਸ਼ਨ ਵਾਧਾ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦਾ ਹੈ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇਨਫਰੈਂਸ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਦਾ ਇੱਕ ਤਰੀਕਾ ਪੇਸ਼ ਕਰਦਾ ਹੈ ਜੋ NPU ਇਕੱਲੇ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦਾ ਹੈ।
ਵਿਭਿੰਨ ਹਾਰਡਵੇਅਰ ਲੈਂਡਸਕੇਪ ਨੂੰ ਪਛਾਣਦੇ ਹੋਏ, AMD ਇੱਕ ਫਾਲਬੈਕ ਵਿਕਲਪ ਵੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। GAIA ਦਾ ਇੱਕ ਵੇਰੀਐਂਟ ਮੌਜੂਦ ਹੈ ਜੋ ਗਣਨਾ ਲਈ ਪੂਰੀ ਤਰ੍ਹਾਂ CPU ਕੋਰਾਂ ‘ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਕਿ NPU ਜਾਂ ਹਾਈਬ੍ਰਿਡ ਮੋਡਾਂ ਨਾਲੋਂ ਕਾਫ਼ੀ ਹੌਲੀ ਅਤੇ ਘੱਟ ਪਾਵਰ-ਕੁਸ਼ਲ ਹੈ, ਇਹ CPU-ਸਿਰਫ ਸੰਸਕਰਣ ਵਿਆਪਕ ਪਹੁੰਚਯੋਗਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਨਵੀਨਤਮ Ryzen AI ਹਾਰਡਵੇਅਰ ਤੋਂ ਬਿਨਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ GAIA ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨ ਦੀ ਆਗਿਆ ਮਿਲਦੀ ਹੈ, ਭਾਵੇਂ ਪ੍ਰਦਰਸ਼ਨ ਜੁਰਮਾਨੇ ਦੇ ਨਾਲ।
ਰਣਨੀਤਕ ਸਥਿਤੀ ਅਤੇ ਓਪਨ-ਸੋਰਸ ਲਾਭ
GAIA ਦੀ ਸ਼ੁਰੂਆਤ ਨੂੰ ਪ੍ਰਤੀਯੋਗੀ ਸੈਮੀਕੰਡਕਟਰ ਮਾਰਕੀਟ ਦੇ ਵਿਆਪਕ ਸੰਦਰਭ ਵਿੱਚ ਦੇਖਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ AI ਐਕਸਲਰੇਸ਼ਨ ਦੇ ਸਬੰਧ ਵਿੱਚ। ਕਾਫ਼ੀ ਸਮੇਂ ਤੋਂ, NVIDIA ਨੇ AI ਸਪੇਸ ਵਿੱਚ ਇੱਕ ਪ੍ਰਮੁੱਖ ਸਥਿਤੀ ਦਾ ਆਨੰਦ ਮਾਣਿਆ ਹੈ, ਮੁੱਖ ਤੌਰ ‘ਤੇ ਇਸਦੇ ਸ਼ਕਤੀਸ਼ਾਲੀ GPUs ਅਤੇ ਪਰਿਪੱਕ CUDA (Compute Unified Device Architecture) ਸੌਫਟਵੇਅਰ ਈਕੋਸਿਸਟਮ ਦੇ ਕਾਰਨ, ਜੋ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੀ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਲਈ ਇੱਕ ਡੀ ਫੈਕਟੋ ਸਟੈਂਡਰਡ ਬਣ ਗਿਆ ਹੈ। ਖਪਤਕਾਰ ਹਾਰਡਵੇਅਰ ‘ਤੇ ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਕੁਸ਼ਲਤਾ ਨਾਲ ਚਲਾਉਣ ਨੇ ਅਕਸਰ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਉਤਸ਼ਾਹੀਆਂ ਨੂੰ NVIDIA ਦੀਆਂ ਪੇਸ਼ਕਸ਼ਾਂ ਵੱਲ ਪ੍ਰੇਰਿਤ ਕੀਤਾ।
AMD ਦੀ GAIA ਪਹਿਲਕਦਮੀ, Ryzen AI ਚਿਪਸ ਵਿੱਚ ਸਮਰਪਿਤ NPU ਹਾਰਡਵੇਅਰ ਦੇ ਨਾਲ ਮਿਲ ਕੇ, ਇਸ ਦਬਦਬੇ ਨੂੰ ਚੁਣੌਤੀ ਦੇਣ ਲਈ ਇੱਕ ਰਣਨੀਤਕ ਕਦਮ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਲੈਪਟਾਪਾਂ ਅਤੇ ਡੈਸਕਟਾਪਾਂ ‘ਤੇ ਡਿਵਾਈਸ-ਅਧਾਰਤ AI ਲਈ ਵਧ ਰਹੇ ਬਾਜ਼ਾਰ ਵਿੱਚ। ਇੱਕ ਵਰਤੋਂ ਵਿੱਚ ਆਸਾਨ, ਅਨੁਕੂਲਿਤ, ਅਤੇ ਓਪਨ-ਸੋਰਸ ਟੂਲ ਪ੍ਰਦਾਨ ਕਰਕੇ, AMD ਦਾ ਉਦੇਸ਼ ਆਪਣੀਆਂ AI ਹਾਰਡਵੇਅਰ ਸਮਰੱਥਾਵਾਂ ਦੇ ਆਲੇ ਦੁਆਲੇ ਇੱਕ ਈਕੋਸਿਸਟਮ ਬਣਾਉਣਾ ਹੈ, ਜਿਸ ਨਾਲ Ryzen AI ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਸਥਾਨਕ AI ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਣ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਅੰਤਮ-ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਵਧੇਰੇ ਆਕਰਸ਼ਕ ਬਣਾਇਆ ਜਾ ਸਕੇ। NPU ਅਨੁਕੂਲਨ ‘ਤੇ ਸਪੱਸ਼ਟ ਫੋਕਸ ਇਸਨੂੰ GPU-ਕੇਂਦਰਿਤ ਪਹੁੰਚਾਂ ਤੋਂ ਵੱਖਰਾ ਕਰਦਾ ਹੈ ਅਤੇ ਖਾਸ AI ਕਾਰਜਾਂ ਲਈ ਸਮਰਪਿਤ ਨਿਊਰਲ ਪ੍ਰੋਸੈਸਰਾਂ ਵਿੱਚ ਮੌਜੂਦ ਪਾਵਰ ਕੁਸ਼ਲਤਾ ਲਾਭਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।
GAIA ਨੂੰ ਪਰਮਿਸਿਵ MIT ਓਪਨ-ਸੋਰਸ ਲਾਇਸੈਂਸ ਦੇ ਤਹਿਤ ਜਾਰੀ ਕਰਨ ਦਾ ਫੈਸਲਾ ਵੀ ਰਣਨੀਤਕ ਤੌਰ ‘ਤੇ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਇਹ ਗਲੋਬਲ ਡਿਵੈਲਪਰ ਭਾਈਚਾਰੇ ਤੋਂ ਸਹਿਯੋਗ ਅਤੇ ਯੋਗਦਾਨ ਨੂੰ ਸੱਦਾ ਦਿੰਦਾ ਹੈ। ਇਹ ਪਹੁੰਚ ਪ੍ਰੋਜੈਕਟ ਦੇ ਵਿਕਾਸ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦੀ ਹੈ, ਨਵੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਅਤੇ ਮਾਡਲਾਂ ਦੇ ਏਕੀਕਰਣ ਵੱਲ ਲੈ ਜਾ ਸਕਦੀ ਹੈ, ਅਤੇ AMD ਦੇ AI ਪਲੇਟਫਾਰਮ ਵਿੱਚ ਨਿਵੇਸ਼ ਕੀਤੇ ਭਾਈਚਾਰੇ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰ ਸਕਦੀ ਹੈ। AMD ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਬੱਗ ਫਿਕਸ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾ ਸੁਧਾਰਾਂ ਲਈ ਪੁੱਲ ਬੇਨਤੀਆਂ ਦਾ ਸੁਆਗਤ ਕਰਦਾ ਹੈ, ਸਮੂਹਿਕ ਯਤਨਾਂ ਦੁਆਰਾ GAIA ਨੂੰ ਵਿਕਸਤ ਕਰਨ ਦੀ ਵਚਨਬੱਧਤਾ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ। ਓਪਨ-ਸੋਰਸਿੰਗ ਡਿਵੈਲਪਰਾਂ ਲਈ ਪ੍ਰਯੋਗ ਕਰਨ, ਏਕੀਕ੍ਰਿਤ ਕਰਨ, ਅਤੇ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ GAIA ਫਰੇਮਵਰਕ ਦੇ ਸਿਖਰ ‘ਤੇ ਵਪਾਰਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਣਾਉਣ ਲਈ ਰੁਕਾਵਟ ਨੂੰ ਘੱਟ ਕਰਦੀ ਹੈ, Ryzen AI ਦੇ ਆਲੇ ਦੁਆਲੇ ਈਕੋਸਿਸਟਮ ਨੂੰ ਹੋਰ ਉਤੇਜਿਤ ਕਰਦੀ ਹੈ।
ਜਦੋਂ ਕਿ ਮੌਜੂਦਾ ਦੁਹਰਾਓ ਡਿਵਾਈਸ-ਅਧਾਰਤ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਲਈ ਢੁਕਵੇਂ ਛੋਟੇ LLMs ‘ਤੇ ਕੇਂਦ੍ਰਤ ਕਰਦਾ ਹੈ, GAIA ਦੁਆਰਾ ਰੱਖੀ ਗਈ ਨੀਂਹ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਮਾਡਲਾਂ ਅਤੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦਾ ਸਮਰਥਨ ਕਰਨ ਦਾ ਰਾਹ ਪੱਧਰਾ ਕਰ ਸਕਦੀ ਹੈ ਕਿਉਂਕਿ NPU ਤਕਨਾਲੋਜੀ ਅੱਗੇ ਵਧਦੀ ਰਹਿੰਦੀ ਹੈ। ਇਹ AMD ਵੱਲੋਂ ਇਰਾਦੇ ਦਾ ਇੱਕ ਸਪੱਸ਼ਟ ਬਿਆਨ ਦਰਸਾਉਂਦਾ ਹੈ: ਨਿੱਜੀ, ਸਥਾਨਕ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੇ ਯੁੱਗ ਵਿੱਚ ਇੱਕ ਪ੍ਰਮੁੱਖ ਸ਼ਕਤੀ ਬਣਨਾ, AI ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਸਿੱਧੇ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਹੱਥਾਂ ਵਿੱਚ, ਸੁਰੱਖਿਅਤ ਅਤੇ ਕੁਸ਼ਲਤਾ ਨਾਲ ਲਿਆਉਣ ਲਈ ਲੋੜੀਂਦਾ ਹਾਰਡਵੇਅਰ ਅਤੇ ਪਹੁੰਚਯੋਗ ਸੌਫਟਵੇਅਰ ਟੂਲ ਪ੍ਰਦਾਨ ਕਰਨਾ। ‘Generative AI Is Awesome’ ਮੋਨੀਕਰ, ਭਾਵੇਂ ਸ਼ਾਇਦ ਗੈਰ-ਰਸਮੀ ਹੋਵੇ, ਇਸ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਹੋ ਰਹੇ ਤਕਨੀਕੀ ਮੋਰਚੇ ਵਿੱਚ ਕੰਪਨੀ ਦੇ ਉਤਸ਼ਾਹ ਅਤੇ ਅਭਿਲਾਸ਼ਾ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦਾ ਹੈ।