Google ਦਾ Gemma 3n ਇੱਕ ਨਵੇਂ ਦੌਰ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਜੋ ਕਿ ਜਨਰੇਟਿਵ AI ਵਿੱਚ ਇੱਕ ਵੱਡਾ ਕਦਮ ਹੈ। ਇਹ ਮਾਡਲ ਛੋਟਾ ਅਤੇ ਤੇਜ਼ ਹੈ, ਅਤੇ ਸਭ ਤੋਂ ਵੱਡੀ ਗੱਲ ਇਹ ਹੈ ਕਿ ਇਹ ਫੋਨਾਂ ‘ਤੇ ਔਫਲਾਈਨ ਵੀ ਚੱਲ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਤਕਨਾਲੋਜੀ ਸਾਡੀਆਂ ਰੋਜ਼ਾਨਾ ਵਰਤੋਂ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ਤੱਕ ਪਹੁੰਚ ਸਕਦੀ ਹੈ। Gemma 3n ਆਡੀਓ, ਚਿੱਤਰਾਂ ਅਤੇ ਟੈਕਸਟ ਨੂੰ ਸਮਝਣ ਦੇ ਨਾਲ ਨਾਲ, ਇਸਦੀ ਸ਼ੁੱਧਤਾ ਵੀ ਬਹੁਤ ਵਧੀਆ ਹੈ, ਜੋ ਕਿ Chatbot Arena ‘ਤੇ GPT-4.1 Nano ਤੋਂ ਵੀ ਵਧੀਆ ਹੈ।
Gemma 3n ਦਾ ਨਵੀਨਤਾਕਾਰੀ ਆਰਕੀਟੈਕਚਰ
ਡਿਵਾਈਸ ‘ਤੇ AI ਦੇ ਭਵਿੱਖ ਨੂੰ ਵੇਖਦੇ ਹੋਏ, Google DeepMind ਨੇ Qualcomm Technologies, MediaTek, ਅਤੇ Samsung System LSI ਵਰਗੀਆਂ ਮੋਬਾਈਲ ਹਾਰਡਵੇਅਰ ਕੰਪਨੀਆਂ ਨਾਲ ਮਿਲ ਕੇ ਇੱਕ ਨਵਾਂ ਆਰਕੀਟੈਕਚਰ ਵਿਕਸਤ ਕੀਤਾ ਹੈ।
ਇਸ ਆਰਕੀਟੈਕਚਰ ਦਾ ਉਦੇਸ਼ ਹੈ ਕਿ ਜਨਰੇਟਿਵ AI ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਸੀਮਤ ਸਰੋਤਾਂ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ‘ਤੇ ਜਿਵੇਂ ਕਿ ਫੋਨ, ਟੈਬਲੇਟ ਅਤੇ ਲੈਪਟਾਪਾਂ ‘ਤੇ ਵਧਾਇਆ ਜਾ ਸਕੇ। ਇਸ ਟੀਚੇ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ, ਆਰਕੀਟੈਕਚਰ ਤਿੰਨ ਮੁੱਖ ਨਵੀਨਤਾਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ: ਲੇਅਰ-ਵਾਈਜ਼ ਏਮਬੇਡਿੰਗ (PLE) ਕੈਸ਼ਿੰਗ, MatFormer ਆਰਕੀਟੈਕਚਰ, ਅਤੇ ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ।
PLE ਕੈਸ਼: ਮੈਮੋਰੀ ਦੀ ਸੀਮਾ ਨੂੰ ਤੋੜਨਾ
PLE ਕੈਸ਼ ਇੱਕ ਅਜਿਹਾ ਤਰੀਕਾ ਹੈ ਜੋ ਮਾਡਲ ਨੂੰ ਲੇਅਰ-ਵਾਈਜ਼ ਏਮਬੇਡਿੰਗ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਤੇਜ਼ ਬਾਹਰੀ ਸਟੋਰੇਜ ਵਿੱਚ ਅਨਲੋਡ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਕੁਰਬਾਨ ਕੀਤੇ ਬਿਨਾਂ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਨੂੰ ਘੱਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਪੈਰਾਮੀਟਰ ਮਾਡਲ ਦੀ ਓਪਰੇਟਿੰਗ ਮੈਮੋਰੀ ਤੋਂ ਬਾਹਰ ਤਿਆਰ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਲੋੜ ਪੈਣ ‘ਤੇ ਪ੍ਰਾਪਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਸੀਮਤ ਸਰੋਤਾਂ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ‘ਤੇ ਵੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਕੰਮ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
ਕਲਪਨਾ ਕਰੋ ਕਿ ਤੁਸੀਂ ਇੱਕ ਗੁੰਝਲਦਾਰ AI ਮਾਡਲ ਚਲਾ ਰਹੇ ਹੋ, ਪਰ ਤੁਹਾਡੀ ਡਿਵਾਈਸ ਵਿੱਚ ਮੈਮੋਰੀ ਸੀਮਤ ਹੈ। PLE ਕੈਸ਼ ਇੱਕ ਸਮਾਰਟ ਲਾਇਬ੍ਰੇਰੀਅਨ ਦੀ ਤਰ੍ਹਾਂ ਹੈ, ਜੋ ਘੱਟ ਵਰਤੀਆਂ ਜਾਣ ਵਾਲੀਆਂ ਕਿਤਾਬਾਂ (ਪੈਰਾਮੀਟਰਾਂ) ਨੂੰ ਨੇੜਲੇ ਵੇਅਰਹਾਊਸ (ਬਾਹਰੀ ਸਟੋਰੇਜ) ਵਿੱਚ ਸਟੋਰ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਮਾਡਲ ਨੂੰ ਇਹਨਾਂ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਲਾਇਬ੍ਰੇਰੀਅਨ ਉਹਨਾਂ ਨੂੰ ਤੁਰੰਤ ਵਾਪਸ ਲੈ ਆਉਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਇਹ ਯਕੀਨੀ ਹੁੰਦਾ ਹੈ ਕਿ ਮਾਡਲ ਬਿਨਾਂ ਕਿਸੇ ਕੀਮਤੀ ਮੈਮੋਰੀ ਸਪੇਸ ਦੀ ਵਰਤੋਂ ਕੀਤੇ ਸੁਚਾਰੂ ਢੰਗ ਨਾਲ ਚੱਲ ਸਕੇ।
ਖਾਸ ਤੌਰ ‘ਤੇ, PLE ਕੈਸ਼ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਅਤੇ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਹੇਠਾਂ ਦਿੱਤੇ ਤਰੀਕਿਆਂ ਨਾਲ ਅਨੁਕੂਲ ਬਣਾਉਂਦਾ ਹੈ:
ਘੱਟ ਮੈਮੋਰੀ ਦੀ ਖਪਤ: ਬਾਹਰੀ ਸਟੋਰੇਜ ਵਿੱਚ ਘੱਟ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਸਟੋਰ ਕਰਕੇ, PLE ਕੈਸ਼ ਮਾਡਲ ਨੂੰ ਚਲਾਉਣ ਲਈ ਲੋੜੀਂਦੀ ਮੈਮੋਰੀ ਦੀ ਮਾਤਰਾ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ। ਇਹ ਸੀਮਤ ਸਰੋਤਾਂ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ‘ਤੇ ਵੱਡੇ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣਾ ਸੰਭਵ ਬਣਾਉਂਦਾ ਹੈ।
ਵਧੀ ਹੋਈ ਕਾਰਗੁਜ਼ਾਰੀ: ਹਾਲਾਂਕਿ ਬਾਹਰੀ ਸਟੋਰੇਜ ਤੋਂ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਕੁਝ ਸਮਾਂ ਲੱਗਦਾ ਹੈ, ਪਰ PLE ਕੈਸ਼ ਇਹ ਅੰਦਾਜ਼ਾ ਲਗਾ ਕੇ ਦੇਰੀ ਨੂੰ ਘੱਟ ਕਰਦਾ ਹੈ ਕਿ ਕਿਹੜੇ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਭਵਿੱਖ ਵਿੱਚ ਵਰਤੋਂ ਕੀਤੀ ਜਾਵੇਗੀ, ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਪਹਿਲਾਂ ਹੀ ਕੈਸ਼ ਵਿੱਚ ਲੋਡ ਕਰ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਮਾਡਲ ਲਗਭਗ ਰੀਅਲ-ਟਾਈਮ ਸਪੀਡ ‘ਤੇ ਚੱਲ ਸਕਦਾ ਹੈ।
ਵੱਡੇ ਮਾਡਲਾਂ ਲਈ ਸਹਾਇਤਾ: ਮੈਮੋਰੀ ਦੀਆਂ ਜ਼ਰੂਰਤਾਂ ਨੂੰ ਘਟਾ ਕੇ, PLE ਕੈਸ਼ ਸਾਨੂੰ ਵੱਡੇ ਅਤੇ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ AI ਮਾਡਲਾਂ ਨੂੰ ਬਣਾਉਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ। ਇਹਨਾਂ ਮਾਡਲਾਂ ਵਿੱਚ ਵਧੇਰੇ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਇਹ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਕਾਰਜਾਂ ਨੂੰ ਪੂਰਾ ਕਰ ਸਕਦੇ ਹਨ।
MatFormer ਆਰਕੀਟੈਕਚਰ: ਰੂਸੀ ਗੁੱਡੀਆਂ ਵਰਗਾ ਡਿਜ਼ਾਈਨ
Matryoshka Transformer (MatFormer) ਆਰਕੀਟੈਕਚਰ ਇੱਕ ਨੈਸਟਡ ਟ੍ਰਾਂਸਫਾਰਮਰ ਡਿਜ਼ਾਈਨ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਛੋਟੇ ਸਬ-ਮਾਡਲ ਵੱਡੇ ਮਾਡਲਾਂ ਵਿੱਚ ਏਮਬੇਡ ਕੀਤੇ ਗਏ ਹਨ, ਜਿਸ ਤਰ੍ਹਾਂ ਰੂਸੀ ਗੁੱਡੀਆਂ ਹੁੰਦੀਆਂ ਹਨ। ਇਹ ਬਣਤਰ ਚੋਣਵੇਂ ਢੰਗ ਨਾਲ ਸਬ-ਮਾਡਲਾਂ ਨੂੰ ਐਕਟੀਵੇਟ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਮਾਡਲ ਕਾਰਜ ਦੇ ਆਧਾਰ ‘ਤੇ ਆਪਣੇ ਆਕਾਰ ਅਤੇ ਕੰਪਿਊਟਿੰਗ ਦੀਆਂ ਲੋੜਾਂ ਨੂੰ ਗਤੀਸ਼ੀਲ ਰੂਪ ਵਿੱਚ ਐਡਜਸਟ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਲਚਕਤਾ ਕੰਪਿਊਟਿੰਗ ਦੇ ਖਰਚੇ, ਜਵਾਬ ਦੇਣ ਦੇ ਸਮੇਂ ਅਤੇ ਊਰਜਾ ਦੀ ਖਪਤ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਇਹ ਐਜ ਅਤੇ ਕਲਾਉਡ ਡਿਪਲੋਏਮੈਂਟ ਲਈ ਬਹੁਤ ਢੁਕਵਾਂ ਹੈ।
MatFormer ਆਰਕੀਟੈਕਚਰ ਦਾ ਮੁੱਖ ਵਿਚਾਰ ਇਹ ਹੈ ਕਿ ਸਾਰੇ ਕਾਰਜਾਂ ਲਈ ਪੂਰੇ AI ਮਾਡਲ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ ਹੈ। ਸਧਾਰਨ ਕਾਰਜਾਂ ਲਈ, ਕੰਪਿਊਟਿੰਗ ਸਰੋਤਾਂ ਨੂੰ ਬਚਾਉਣ ਲਈ ਸਿਰਫ਼ ਛੋਟੇ ਸਬ-ਮਾਡਲਾਂ ਨੂੰ ਐਕਟੀਵੇਟ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਗੁੰਝਲਦਾਰ ਕਾਰਜਾਂ ਲਈ, ਵੱਡੇ ਸਬ-ਮਾਡਲਾਂ ਨੂੰ ਐਕਟੀਵੇਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਤਾਂ ਜੋ ਵਧੇਰੇ ਸ਼ੁੱਧਤਾ ਪ੍ਰਾਪਤ ਕੀਤੀ ਜਾ ਸਕੇ।
ਆਓ ਇੱਕ ਉਦਾਹਰਨ ਦੇ ਨਾਲ MatFormer ਆਰਕੀਟੈਕਚਰ ਦੇ ਫਾਇਦਿਆਂ ਨੂੰ ਸਮਝੀਏ। ਮੰਨ ਲਓ ਕਿ ਤੁਸੀਂ ਕਿਸੇ ਚਿੱਤਰ ਵਿੱਚ ਵਸਤੂਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਇੱਕ AI ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹੋ। ਸਧਾਰਨ ਚਿੱਤਰਾਂ ਲਈ, ਜਿਵੇਂ ਕਿ ਸਿਰਫ਼ ਇੱਕ ਵਸਤੂ ਵਾਲੇ ਚਿੱਤਰਾਂ ਲਈ, ਇੱਕ ਛੋਟੇ ਸਬ-ਮਾਡਲ ਨੂੰ ਐਕਟੀਵੇਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਜੋ ਖਾਸ ਤੌਰ ‘ਤੇ ਉਸ ਕਿਸਮ ਦੀ ਵਸਤੂ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਗੁੰਝਲਦਾਰ ਚਿੱਤਰਾਂ ਲਈ, ਜਿਵੇਂ ਕਿ ਕਈ ਵਸਤੂਆਂ ਵਾਲੇ ਚਿੱਤਰਾਂ ਲਈ, ਇੱਕ ਵੱਡੇ ਸਬ-ਮਾਡਲ ਨੂੰ ਐਕਟੀਵੇਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਜੋ ਵੱਖ-ਵੱਖ ਕਿਸਮਾਂ ਦੀਆਂ ਵਸਤੂਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਦੇ ਯੋਗ ਹੁੰਦਾ ਹੈ।
MatFormer ਆਰਕੀਟੈਕਚਰ ਦੇ ਫਾਇਦੇ ਇਹ ਹਨ:
ਘੱਟ ਕੰਪਿਊਟਿੰਗ ਲਾਗਤ: ਸਿਰਫ਼ ਲੋੜੀਂਦੇ ਸਬ-ਮਾਡਲਾਂ ਨੂੰ ਐਕਟੀਵੇਟ ਕਰਕੇ, MatFormer ਆਰਕੀਟੈਕਚਰ ਕੰਪਿਊਟਿੰਗ ਲਾਗਤ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ ਘਟਾ ਸਕਦਾ ਹੈ। ਇਹ ਸੀਮਤ ਸਰੋਤਾਂ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ‘ਤੇ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ।
ਘੱਟ ਜਵਾਬ ਦੇਣ ਦਾ ਸਮਾਂ: ਕਿਉਂਕਿ MatFormer ਆਰਕੀਟੈਕਚਰ ਕਾਰਜ ਦੇ ਆਧਾਰ ‘ਤੇ ਮਾਡਲ ਦੇ ਆਕਾਰ ਨੂੰ ਗਤੀਸ਼ੀਲ ਰੂਪ ਵਿੱਚ ਐਡਜਸਟ ਕਰ ਸਕਦਾ ਹੈ, ਇਸ ਲਈ ਜਵਾਬ ਦੇਣ ਦਾ ਸਮਾਂ ਘੱਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ AI ਮਾਡਲ ਨੂੰ ਉਪਭੋਗਤਾ ਦੀਆਂ ਬੇਨਤੀਆਂ ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਜਵਾਬ ਦੇਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ।
ਘੱਟ ਊਰਜਾ ਦੀ ਖਪਤ: ਕੰਪਿਊਟਿੰਗ ਲਾਗਤ ਨੂੰ ਘਟਾ ਕੇ, MatFormer ਆਰਕੀਟੈਕਚਰ ਊਰਜਾ ਦੀ ਖਪਤ ਨੂੰ ਵੀ ਘਟਾ ਸਕਦਾ ਹੈ। ਇਹ ਬੈਟਰੀ ਦੀ ਉਮਰ ਵਧਾਉਣ ਲਈ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ।
ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ: ਮੰਗ ‘ਤੇ ਲੋਡ ਕਰੋ, ਸਰੋਤਾਂ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਓ
ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਮੈਮੋਰੀ ਵਿੱਚ ਨਾ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਪੈਰਾਮੀਟਰਾਂ (ਜਿਵੇਂ ਕਿ ਆਡੀਓ ਜਾਂ ਵਿਜ਼ੂਅਲ ਪ੍ਰੋਸੈਸਿੰਗ ਲਈ ਪੈਰਾਮੀਟਰ) ਨੂੰ ਲੋਡ ਕਰਨ ਤੋਂ ਬਚਣ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ। ਜੇ ਲੋੜ ਹੋਵੇ, ਤਾਂ ਇਹਨਾਂ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਰਨਟਾਈਮ ‘ਤੇ ਗਤੀਸ਼ੀਲ ਰੂਪ ਵਿੱਚ ਲੋਡ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਨੂੰ ਹੋਰ ਅਨੁਕੂਲ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ, ਅਤੇ ਮਾਡਲ ਨੂੰ ਵੱਖ-ਵੱਖ ਡਿਵਾਈਸਾਂ ਅਤੇ ਕਾਰਜਾਂ ਦੇ ਅਨੁਕੂਲ ਹੋਣ ਦੇ ਯੋਗ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।
ਕਲਪਨਾ ਕਰੋ ਕਿ ਤੁਸੀਂ ਟੈਕਸਟ ਨੂੰ ਪ੍ਰੋਸੈਸ ਕਰਨ ਲਈ ਇੱਕ AI ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹੋ। ਜੇ ਤੁਹਾਡੇ ਕਾਰਜ ਲਈ ਕਿਸੇ ਆਡੀਓ ਜਾਂ ਵਿਜ਼ੂਅਲ ਪ੍ਰੋਸੈਸਿੰਗ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ, ਤਾਂ ਆਡੀਓ ਜਾਂ ਵਿਜ਼ੂਅਲ ਪ੍ਰੋਸੈਸਿੰਗ ਲਈ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਲੋਡ ਕਰਨਾ ਸਰੋਤਾਂ ਦੀ ਬਰਬਾਦੀ ਹੋਵੇਗੀ। ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ ਮਾਡਲ ਨੂੰ ਸਿਰਫ਼ ਲੋੜੀਂਦੇ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਲੋਡ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ, ਜਿਸਦੇ ਨਾਲ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਨੂੰ ਘੱਟੋ-ਘੱਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਅਤੇ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਵਧਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।
ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ ਇਸ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਦੀ ਹੈ:
- ਮਾਡਲ ਮੌਜੂਦਾ ਕਾਰਜ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਕਿਹੜੇ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਲੋੜ ਹੈ।
- ਮਾਡਲ ਸਿਰਫ਼ ਲੋੜੀਂਦੇ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਮੈਮੋਰੀ ਵਿੱਚ ਲੋਡ ਕਰਦਾ ਹੈ।
- ਜਦੋਂ ਕਾਰਜ ਪੂਰਾ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਮਾਡਲ ਉਹਨਾਂ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਛੱਡ ਦਿੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਦੀ ਹੁਣ ਲੋੜ ਨਹੀਂ ਹੈ।
ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ ਦੇ ਫਾਇਦੇ ਇਹ ਹਨ:
ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਓ: ਸਿਰਫ਼ ਲੋੜੀਂਦੇ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਲੋਡ ਕਰਕੇ, ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ ਅਨੁਕੂਲ ਬਣਾ ਸਕਦੀ ਹੈ। ਇਹ ਸੀਮਤ ਸਰੋਤਾਂ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ‘ਤੇ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ।
ਵਧੀ ਹੋਈ ਕਾਰਗੁਜ਼ਾਰੀ: ਲੋਡ ਕੀਤੇ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਸੰਖਿਆ ਨੂੰ ਘਟਾ ਕੇ, ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਵਧਾ ਸਕਦੀ ਹੈ। ਇਹ AI ਮਾਡਲ ਨੂੰ ਉਪਭੋਗਤਾ ਦੀਆਂ ਬੇਨਤੀਆਂ ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਜਵਾਬ ਦੇਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ।
ਡਿਵਾਈਸਾਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ਲਈ ਸਹਾਇਤਾ: ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾ ਕੇ, ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ AI ਮਾਡਲ ਨੂੰ ਡਿਵਾਈਸਾਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ‘ਤੇ ਚਲਾਉਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਸੀਮਤ ਮੈਮੋਰੀ ਵਾਲੀਆਂ ਡਿਵਾਈਸਾਂ ਵੀ ਸ਼ਾਮਲ ਹਨ।
Gemma 3n ਦੀਆਂ ਸ਼ਾਨਦਾਰ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
Gemma 3n ਨੇ ਕਈ ਨਵੀਨਤਾਕਾਰੀ ਤਕਨਾਲੋਜੀਆਂ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਪੇਸ਼ ਕੀਤੀਆਂ ਹਨ, ਜੋ ਡਿਵਾਈਸ ‘ਤੇ AI ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਮੁੜ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੀਆਂ ਹਨ।
ਆਓ ਇਸਦੇ ਮੁੱਖ ਕਾਰਜਾਂ ‘ਤੇ ਡੂੰਘਾਈ ਨਾਲ ਵਿਚਾਰ ਕਰੀਏ:
ਅਨੁਕੂਲਿਤ ਡਿਵਾਈਸ ‘ਤੇ ਕਾਰਗੁਜ਼ਾਰੀ ਅਤੇ ਕੁਸ਼ਲਤਾ: Gemma 3n ਆਪਣੇ ਪਿਛਲੇ ਮਾਡਲ (Gemma 3 4B) ਨਾਲੋਂ ਲਗਭਗ 1.5 ਗੁਣਾ ਤੇਜ਼ ਹੈ, ਜਦੋਂ ਕਿ ਇਹ ਆਉਟਪੁੱਟ ਗੁਣਵੱਤਾ ਨੂੰ ਬਹੁਤ ਜ਼ਿਆਦਾ ਰੱਖਦਾ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ ਕਲਾਉਡ ਕਨੈਕਸ਼ਨ ‘ਤੇ ਨਿਰਭਰ ਕੀਤੇ ਬਿਨਾਂ, ਡਿਵਾਈਸ ‘ਤੇ ਤੇਜ਼ੀ ਨਾਲ ਵਧੇਰੇ ਸਹੀ ਨਤੀਜੇ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹੋ।
PLE ਕੈਸ਼: PLE ਕੈਸ਼ਿੰਗ ਸਿਸਟਮ Gemma 3n ਨੂੰ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਤੇਜ਼ ਲੋਕਲ ਸਟੋਰੇਜ ਵਿੱਚ ਸਟੋਰ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਘੱਟ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਕਾਰਗੁਜ਼ਾਰੀ ਵਧਦੀ ਹੈ।
MatFormer ਆਰਕੀਟੈਕਚਰ: Gemma 3n MatFormer ਆਰਕੀਟੈਕਚਰ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਜੋ ਇੱਕ ਖਾਸ ਬੇਨਤੀ ਦੇ ਆਧਾਰ ‘ਤੇ ਮਾਡਲ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਚੋਣਵੇਂ ਢੰਗ ਨਾਲ ਐਕਟੀਵੇਟ ਕਰਦਾ ਹੈ। ਇਹ ਮਾਡਲ ਨੂੰ ਸਰੋਤਾਂ ਦੀ ਵਰਤੋਂ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਲਈ ਆਪਣੇ ਆਕਾਰ ਅਤੇ ਕੰਪਿਊਟਿੰਗ ਦੀਆਂ ਲੋੜਾਂ ਨੂੰ ਗਤੀਸ਼ੀਲ ਰੂਪ ਵਿੱਚ ਐਡਜਸਟ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ।
ਸ਼ਰਤੀਆ ਪੈਰਾਮੀਟਰ ਲੋਡਿੰਗ: ਮੈਮੋਰੀ ਸਰੋਤਾਂ ਨੂੰ ਬਚਾਉਣ ਲਈ, Gemma 3n ਬੇਲੋੜੇ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਲੋਡ ਕਰਨ ਤੋਂ ਬਚ ਸਕਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਜਦੋਂ ਵਿਜ਼ਨ ਜਾਂ ਆਡੀਓ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਇਹ ਸੰਬੰਧਿਤ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਲੋਡ ਨਹੀਂ ਕਰਦਾ। ਇਸ ਨਾਲ ਕੁਸ਼ਲਤਾ ਹੋਰ ਵਧਦੀ ਹੈ, ਅਤੇ ਊਰਜਾ ਦੀ ਖਪਤ ਘੱਟ ਹੁੰਦੀ ਹੈ।
ਗੋਪਨੀਯਤਾ ਪਹਿਲ ਅਤੇ ਔਫਲਾਈਨ ਤਿਆਰੀ: ਇੰਟਰਨੈਟ ਕਨੈਕਸ਼ਨ ਦੀ ਲੋੜ ਤੋਂ ਬਿਨਾਂ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ AI ਫੰਕਸ਼ਨ ਚਲਾਓ, ਅਤੇ ਉਪਭੋਗਤਾ ਦੀ ਗੋਪਨੀਯਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਓ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਹਾਡਾ ਡਾਟਾ ਤੁਹਾਡੀ ਡਿਵਾਈਸ ਨੂੰ ਨਹੀਂ ਛੱਡਦਾ ਹੈ, ਅਤੇ ਤੁਸੀਂ ਬਿਨਾਂ ਨੈੱਟਵਰਕ ਕਨੈਕਸ਼ਨ ਦੇ AI ਫੰਕਸ਼ਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹੋ।
ਬਹੁ-ਮੋਡਲ ਸਮਝ: Gemma 3n ਆਡੀਓ, ਟੈਕਸਟ, ਚਿੱਤਰ ਅਤੇ ਵੀਡੀਓ ਇਨਪੁਟਸ ਲਈ ਉੱਚ-ਪੱਧਰੀ ਸਹਾਇਤਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜਿਸਦੇ ਨਾਲ ਰੀਅਲ-ਟਾਈਮ ਵਿੱਚ ਗੁੰਝਲਦਾਰ ਬਹੁ-ਮੋਡਲ ਇੰਟਰੈਕਸ਼ਨ ਸੰਭਵ ਹੁੰਦੇ ਹਨ। ਇਹ AI ਮਾਡਲ ਨੂੰ ਵੱਖ-ਵੱਖ ਕਿਸਮਾਂ ਦੇ ਇਨਪੁਟਸ ਨੂੰ ਸਮਝਣ ਅਤੇ ਜਵਾਬ ਦੇਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ, ਜਿਸਦੇ ਨਾਲ ਇੱਕ ਵਧੇਰੇ ਕੁਦਰਤੀ ਅਤੇ ਅਨੁਭਵੀ ਉਪਭੋਗਤਾ ਅਨੁਭਵ ਪ੍ਰਦਾਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
ਆਡੀਓ ਫੰਕਸ਼ਨ: ਇਹ ਆਟੋਮੈਟਿਕ ਸਪੀਚ ਰਿਕੋਗਨੀਸ਼ਨ (ASR) ਅਤੇ ਵੌਇਸ-ਟੂ-ਟੈਕਸਟ ਅਨੁਵਾਦ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਉੱਚ-ਗੁਣਵੱਤਾ ਟ੍ਰਾਂਸਕ੍ਰਿਪਸ਼ਨ ਅਤੇ ਬਹੁ-ਭਾਸ਼ਾਈ ਸਹਾਇਤਾ ਸ਼ਾਮਲ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ Gemma 3n ਦੀ ਵਰਤੋਂ ਬੋਲੇ ਗਏ ਸ਼ਬਦਾਂ ਨੂੰ ਟੈਕਸਟ ਵਿੱਚ ਬਦਲਣ ਲਈ, ਅਤੇ ਇੱਕ ਭਾਸ਼ਾ ਦੇ ਬੋਲੇ ਗਏ ਸ਼ਬਦਾਂ ਨੂੰ ਦੂਜੀ ਭਾਸ਼ਾ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰਨ ਲਈ ਕਰ ਸਕਦੇ ਹੋ।
ਬਿਹਤਰ ਬਹੁ-ਭਾਸ਼ਾਈ ਸਮਰੱਥਾ: ਜਾਪਾਨੀ, ਜਰਮਨ, ਕੋਰੀਅਨ, ਸਪੈਨਿਸ਼ ਅਤੇ ਫਰਾਂਸੀਸੀ ਵਰਗੀਆਂ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚ ਕਾਰਗੁਜ਼ਾਰੀ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਸੁਧਾਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਇਹ Gemma 3n ਨੂੰ ਵੱਖ-ਵੱਖ ਭਾਸ਼ਾਵਾਂ ਦੇ ਟੈਕਸਟ ਨੂੰ ਵਧੇਰੇ ਸਹੀ ਢੰਗ ਨਾਲ ਸਮਝਣ ਅਤੇ ਤਿਆר ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ।
32K ਟੋਕਨ ਸੰਦਰਭ: ਇਹ ਇੱਕੋ ਬੇਨਤੀ ਵਿੱਚ ਵੱਡੀ ਮਾਤਰਾ ਵਿੱਚ ਡਾਟਾ ਪ੍ਰੋਸੈਸ ਕਰ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਲੰਬੀਆਂ ਗੱਲਬਾਤਾਂ ਅਤੇ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਕਾਰਜ ਸੰਭਵ ਹੁੰਦੇ ਹਨ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ Gemma 3n ਨੂੰ ਇੱਕ ਲੰਬਾ ਟੈਕਸਟ ਇਨਪੁਟ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਤੁਹਾਨੂੰ ਇਸਦੇ ਸੰਦਰਭ ਵਿੰਡੋ ਤੋਂ ਬਾਹਰ ਜਾਣ ਬਾਰੇ ਚਿੰਤਾ ਕਰਨ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ।
Gemma 3n ਨਾਲ ਤੇਜ਼ੀ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ
Gemma 3n ਦੀ ਵਰਤੋਂ ਸ਼ੁਰੂ ਕਰਨਾ ਬਹੁਤ ਆਸਾਨ ਹੈ, ਡਿਵੈਲਪਰ ਇਸ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲ ਦੀ ਪੜਚੋਲ ਅਤੇ ਏਕੀਕਰਨ ਕਰਨ ਲਈ ਦੋ ਮੁੱਖ ਤਰੀਕਿਆਂ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹਨ।
1. Google AI Studio: ਤੇਜ਼ ਪ੍ਰੋਟੋਟਾਈਪ ਡਿਜ਼ਾਈਨ
ਸਿਰਫ਼ Google AI Studio ਵਿੱਚ ਲੌਗ ਇਨ ਕਰੋ, ਸਟੂਡੀਓ ਵਿੱਚ ਜਾਓ, Gemma 3n E4B ਮਾਡਲ ਦੀ ਚੋਣ ਕਰੋ, ਅਤੇ ਫਿਰ ਤੁਸੀਂ Gemma 3n ਦੇ ਕਾਰਜਾਂ ਦੀ ਪੜਚੋਲ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹੋ। ਇਹ ਸਟੂਡੀਓ ਉਹਨਾਂ ਡਿਵੈਲਪਰਾਂ ਲਈ ਬਹੁਤ ਵਧੀਆ ਹੈ ਜੋ ਪੂਰੀ ਤਰ੍ਹਾਂ ਲਾਗੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਤੇਜ਼ੀ ਨਾਲ ਪ੍ਰੋਟੋਟਾਈਪ ਡਿਜ਼ਾਈਨ ਬਣਾਉਣਾ ਅਤੇ ਵਿਚਾਰਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਨ।
ਤੁਸੀਂ ਇੱਕ API ਕੁੰਜੀ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਮਾਡਲ ਨੂੰ ਆਪਣੇ ਲੋਕਲ AI ਚੈਟਬੋਟ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕਰ ਸਕਦੇ ਹੋ, ਖਾਸ ਕਰਕੇ Msty ਐਪਲੀਕੇਸ਼ਨ ਰਾਹੀਂ।
ਇਸ ਤੋਂ ਇਲਾਵਾ, ਤੁਸੀਂ Google GenAI Python SDK ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਸਿਰਫ਼ ਕੁਝ ਲਾਈਨਾਂ ਕੋਡ ਨਾਲ ਮਾਡਲ ਨੂੰ ਆਪਣੀ ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕਰ ਸਕਦੇ ਹੋ। ਜਿਸ ਨਾਲ Gemma 3n ਨੂੰ ਤੁਹਾਡੇ ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕਰਨਾ ਬਹੁਤ ਆਸਾਨ ਹੋ ਜਾਂਦਾ ਹੈ।
2. Google AI Edge ਨਾਲ ਡਿਵਾਈਸ ‘ਤੇ ਵਿਕਾਸ ਕਰਨਾ: ਲੋਕਲ ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਣਾਓ
ਉਹਨਾਂ ਡਿਵੈਲਪਰਾਂ ਲਈ ਜੋ Gemma 3n ਨੂੰ ਸਿੱਧੇ ਤੌਰ ‘ਤੇ ਆਪਣੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਨ, Google AI Edge Android ਅਤੇ Chrome ਡਿਵਾਈਸਾਂ ‘ਤੇ ਡਿਵਾਈਸ ‘ਤੇ ਵਿਕਾਸ ਕਰਨ ਲਈ ਲੋੜੀਂਦੇ ਟੂਲ ਅਤੇ ਲਾਇਬ੍ਰੇਰੀਆਂ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਇਹ ਤਰੀਕਾ ਉਹਨਾਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਬਣਾਉਣ ਲਈ ਬਹੁਤ ਢੁਕਵਾਂ ਹੈ ਜੋ ਸਥਾਨਕ ਤੌਰ ‘ਤੇ Gemma 3n ਕਾਰਜਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ।
Google AI Edge ਟੂਲ ਅਤੇ ਲਾਇਬ੍ਰੇਰੀਆਂ ਦੀ ਇੱਕ ਲੜੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਡਿਵੈਲਪਰ Gemma 3n ਨੂੰ ਆਪਣੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਆਸਾਨੀ ਨਾਲ ਏਕੀਕ੍ਰਿਤ ਕਰ ਸਕਦੇ ਹਨ। ਇਹਨਾਂ ਟੂਲਜ਼ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:
- TensorFlow Lite: ਮੋਬਾਈਲ ਡਿਵਾਈਸਾਂ ‘ਤੇ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਇੱਕ ਲਾਈਟਵੇਟ ਫਰੇਮਵਰਕ।
- ML Kit: ਮੋਬਾਈਲ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਫੰਕਸ਼ਨਾਂ ਨੂੰ ਜੋੜਨ ਲਈ API ਦਾ ਇੱਕ ਸੰਗ੍ਰਹਿ।
- Android Neural Networks API (NNAPI): ਡਿਵਾਈਸ ‘ਤੇ ਹਾਰਡਵੇਅਰ ਐਕਸਲੇਟਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਲਈ ਇੱਕ API।
Google AI Edge ਦੀ ਵਰਤੋਂ ਕਰਕੇ, ਡਿਵੈਲਪਰ ਕਈ ਨਵੀਨਤਾਕਾਰੀ ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਣਾ ਸਕਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:
- ਔਫਲਾਈਨ ਵੌਇਸ ਰਿਕੋਗਨੀਸ਼ਨ: ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇੰਟਰਨੈਟ ਕਨੈਕਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਵੌਇਸ ਕਮਾਂਡਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਆਪਣੀਆਂ ਡਿਵਾਈਸਾਂ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ।
- ਰੀਅਲ-ਟਾਈਮ ਚਿੱਤਰ ਪਛਾਣ: ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਚਿੱਤਰਾਂ ਨੂੰ ਕਲਾਉਡ ‘ਤੇ ਅਪਲੋਡ ਕੀਤੇ ਬਿਨਾਂ ਉਹਨਾਂ ਵਿੱਚ ਵਸਤੂਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ।
- ਸਮਾਰਟ ਟੈਕਸਟ ਜਨਰੇਸ਼ਨ: ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਕਈ ਕਿਸਮਾਂ ਦੇ ਟੈਕਸਟ ਜਨਰੇਟ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਈਮੇਲਾਂ, ਲੇਖ ਅਤੇ ਕੋਡ।