ਡੇਟਾ ਤੋਂ ਇਨਸਾਈਟ ਤੱਕ: AI ਫੈਕਟਰੀ ਦਾ ਸਾਰ
ਇੱਕ ਰਵਾਇਤੀ ਫੈਕਟਰੀ ਦੀ ਕਲਪਨਾ ਕਰੋ, ਜਿੱਥੇ ਕੱਚਾ ਮਾਲ ਦਾਖਲ ਹੁੰਦਾ ਹੈ ਅਤੇ ਤਿਆਰ ਉਤਪਾਦ ਬਾਹਰ ਨਿਕਲਦੇ ਹਨ। AI ਫੈਕਟਰੀ ਇੱਕ ਸਮਾਨ ਸਿਧਾਂਤ ‘ਤੇ ਕੰਮ ਕਰਦੀ ਹੈ, ਪਰ ਭੌਤਿਕ ਵਸਤਾਂ ਦੀ ਬਜਾਏ, ਇਹ ਕੱਚੇ ਡੇਟਾ ਨੂੰ ਕਾਰਵਾਈਯੋਗ ਬੁੱਧੀ ਵਿੱਚ ਬਦਲਦੀ ਹੈ। ਇਹ ਵਿਸ਼ੇਸ਼ ਕੰਪਿਊਟਿੰਗ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪੂਰੇ AI ਜੀਵਨ-ਚੱਕਰ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਦਾ ਹੈ – ਡੇਟਾ ਦੇ ਸ਼ੁਰੂਆਤੀ ਦਾਖਲੇ ਤੋਂ ਲੈ ਕੇ ਸਿਖਲਾਈ, ਵਧੀਆ-ਟਿਊਨਿੰਗ, ਅਤੇ ਅੰਤ ਵਿੱਚ, ਉੱਚ-ਆਵਾਜ਼ ਵਾਲਾ ਅਨੁਮਾਨ ਜੋ AI-ਸੰਚਾਲਿਤ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
AI ਫੈਕਟਰੀ ਸਿਰਫ਼ ਇੱਕ ਡੇਟਾ ਸੈਂਟਰ ਨਹੀਂ ਹੈ; ਇਹ AI ਵਿਕਾਸ ਦੇ ਹਰ ਪੜਾਅ ਲਈ ਅਨੁਕੂਲਿਤ ਇੱਕ ਉਦੇਸ਼-ਨਿਰਮਿਤ ਵਾਤਾਵਰਣ ਹੈ। ਆਮ ਡੇਟਾ ਸੈਂਟਰਾਂ ਦੇ ਉਲਟ ਜੋ ਕਈ ਤਰ੍ਹਾਂ ਦੇ ਕੰਮ ਦੇ ਬੋਝ ਨੂੰ ਸੰਭਾਲਦੇ ਹਨ, AI ਫੈਕਟਰੀ AI ਦੀ ਸਿਰਜਣਾ ਨੂੰ ਤੇਜ਼ ਕਰਨ ‘ਤੇ ਲੇਜ਼ਰ-ਕੇਂਦ੍ਰਿਤ ਹੈ। ਜੇਨਸਨ ਹੁਆਂਗ ਨੇ ਖੁਦ ਕਿਹਾ ਹੈ ਕਿ Nvidia ‘ਚਿਪਸ ਵੇਚਣ ਤੋਂ ਲੈ ਕੇ ਵੱਡੀਆਂ AI ਫੈਕਟਰੀਆਂ ਬਣਾਉਣ’ ਵਿੱਚ ਤਬਦੀਲ ਹੋ ਗਿਆ ਹੈ, ਜੋ ਕੰਪਨੀ ਦੇ AI ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵਿੱਚ ਵਿਕਾਸ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।
ਇੱਕ AI ਫੈਕਟਰੀ ਦਾ ਆਉਟਪੁੱਟ ਸਿਰਫ਼ ਪ੍ਰੋਸੈਸਡ ਡੇਟਾ ਨਹੀਂ ਹੈ; ਇਹ ਟੋਕਨਾਂ ਦੀ ਉਤਪਤੀ ਹੈ ਜੋ ਟੈਕਸਟ, ਚਿੱਤਰਾਂ, ਵੀਡੀਓ ਅਤੇ ਖੋਜ ਸਫਲਤਾਵਾਂ ਵਜੋਂ ਪ੍ਰਗਟ ਹੁੰਦੇ ਹਨ। ਇਹ ਸਿਰਫ਼ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰਨ ਤੋਂ ਲੈ ਕੇ AI ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਅਨੁਕੂਲਿਤ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਨ ਤੱਕ ਇੱਕ ਬੁਨਿਆਦੀ ਤਬਦੀਲੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਇੱਕ AI ਫੈਕਟਰੀ ਲਈ ਸਫਲਤਾ ਦਾ ਮੁੱਖ ਮਾਪਦੰਡ AI ਟੋਕਨ ਥ੍ਰੁਪੁੱਟ ਹੈ – ਉਹ ਦਰ ਜਿਸ ‘ਤੇ ਸਿਸਟਮ ਭਵਿੱਖਬਾਣੀਆਂ ਜਾਂ ਜਵਾਬ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜੋ ਸਿੱਧੇ ਤੌਰ ‘ਤੇ ਕਾਰੋਬਾਰੀ ਕਾਰਵਾਈਆਂ, ਆਟੋਮੇਸ਼ਨ, ਅਤੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਵੀਆਂ ਸੇਵਾਵਾਂ ਦੀ ਸਿਰਜਣਾ ਨੂੰ ਚਲਾਉਂਦੇ ਹਨ।
ਅੰਤਮ ਟੀਚਾ ਸੰਸਥਾਵਾਂ ਨੂੰ AI ਨੂੰ ਲੰਬੇ ਸਮੇਂ ਦੇ ਖੋਜ ਯਤਨਾਂ ਤੋਂ ਪ੍ਰਤੀਯੋਗੀ ਲਾਭ ਦੇ ਤੁਰੰਤ ਸਰੋਤ ਵਿੱਚ ਬਦਲਣ ਲਈ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਨਾ ਹੈ। ਜਿਵੇਂ ਕਿ ਇੱਕ ਰਵਾਇਤੀ ਫੈਕਟਰੀ ਸਿੱਧੇ ਤੌਰ ‘ਤੇ ਮਾਲੀਆ ਉਤਪਾਦਨ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਉਂਦੀ ਹੈ, AI ਫੈਕਟਰੀ ਨੂੰ ਭਰੋਸੇਮੰਦ, ਕੁਸ਼ਲ ਅਤੇ ਸਕੇਲੇਬਲ ਬੁੱਧੀ ਬਣਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।
ਸਕੇਲਿੰਗ ਕਾਨੂੰਨ ਜੋ AI ਕੰਪਿਊਟ ਵਿਸਫੋਟ ਨੂੰ ਤੇਲ ਦਿੰਦੇ ਹਨ
ਜਨਰੇਟਿਵ AI ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਾਸ, ਸਧਾਰਨ ਟੋਕਨ ਉਤਪਾਦਨ ਤੋਂ ਲੈ ਕੇ ਉੱਨਤ ਤਰਕ ਸਮਰੱਥਾਵਾਂ ਤੱਕ, ਨੇ ਕੰਪਿਊਟਿੰਗ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ‘ਤੇ ਬੇਮਿਸਾਲ ਮੰਗਾਂ ਰੱਖੀਆਂ ਹਨ। ਇਹ ਮੰਗ ਤਿੰਨ ਬੁਨਿਆਦੀ ਸਕੇਲਿੰਗ ਕਾਨੂੰਨਾਂ ਦੁਆਰਾ ਚਲਾਈ ਜਾਂਦੀ ਹੈ:
ਪ੍ਰੀ-ਟ੍ਰੇਨਿੰਗ ਸਕੇਲਿੰਗ: ਵੱਧ ਬੁੱਧੀ ਦੀ ਭਾਲ ਲਈ ਵੱਡੇ ਡੇਟਾਸੈੱਟਾਂ ਅਤੇ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਮਾਡਲ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇਸ ਦੇ ਬਦਲੇ ਵਿੱਚ, ਬਹੁਤ ਜ਼ਿਆਦਾ ਕੰਪਿਊਟਿੰਗ ਸਰੋਤਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਪਿਛਲੇ ਪੰਜ ਸਾਲਾਂ ਵਿੱਚ, ਪ੍ਰੀ-ਟ੍ਰੇਨਿੰਗ ਸਕੇਲਿੰਗ ਨੇ ਕੰਪਿਊਟ ਲੋੜਾਂ ਵਿੱਚ 50 ਮਿਲੀਅਨ ਗੁਣਾ ਵਾਧਾ ਕੀਤਾ ਹੈ।
ਪੋਸਟ-ਟ੍ਰੇਨਿੰਗ ਸਕੇਲਿੰਗ: ਖਾਸ ਅਸਲ-ਸੰਸਾਰ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਪ੍ਰੀ-ਟ੍ਰੇਨਡ ਮਾਡਲਾਂ ਨੂੰ ਵਧੀਆ-ਟਿਊਨਿੰਗ ਕਰਨਾ ਕੰਪਿਊਟੇਸ਼ਨਲ ਜਟਿਲਤਾ ਦੀ ਇੱਕ ਹੋਰ ਪਰਤ ਪੇਸ਼ ਕਰਦਾ ਹੈ। AI ਅਨੁਮਾਨ, ਨਵੇਂ ਡੇਟਾ ‘ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਮਾਡਲ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ, ਪ੍ਰੀ-ਟ੍ਰੇਨਿੰਗ ਨਾਲੋਂ ਲਗਭਗ 30 ਗੁਣਾ ਜ਼ਿਆਦਾ ਕੰਪਿਊਟੇਸ਼ਨ ਦੀ ਮੰਗ ਕਰਦੀ ਹੈ। ਜਿਵੇਂ ਕਿ ਸੰਸਥਾਵਾਂ ਮੌਜੂਦਾ ਮਾਡਲਾਂ ਨੂੰ ਆਪਣੀਆਂ ਵਿਲੱਖਣ ਲੋੜਾਂ ਅਨੁਸਾਰ ਤਿਆਰ ਕਰਦੀਆਂ ਹਨ, AI ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਸੰਚਤ ਮੰਗ ਨਾਟਕੀ ਢੰਗ ਨਾਲ ਵਧ ਜਾਂਦੀ ਹੈ।
ਟੈਸਟ-ਟਾਈਮ ਸਕੇਲਿੰਗ (ਲੰਬੀ ਸੋਚ): ਉੱਨਤ AI ਐਪਲੀਕੇਸ਼ਨਾਂ, ਜਿਵੇਂ ਕਿ ਏਜੰਟਿਕ AI ਜਾਂ ਭੌਤਿਕ AI, ਨੂੰ ਦੁਹਰਾਉਣ ਵਾਲੇ ਤਰਕ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ – ਅਨੁਕੂਲ ਜਵਾਬ ਚੁਣਨ ਤੋਂ ਪਹਿਲਾਂ ਕਈ ਸੰਭਾਵੀ ਜਵਾਬਾਂ ਦੀ ਪੜਚੋਲ ਕਰਨਾ। ਇਹ ‘ਲੰਬੀ ਸੋਚ’ ਪ੍ਰਕਿਰਿਆ ਰਵਾਇਤੀ ਅਨੁਮਾਨ ਨਾਲੋਂ 100 ਗੁਣਾ ਜ਼ਿਆਦਾ ਕੰਪਿਊਟ ਦੀ ਖਪਤ ਕਰ ਸਕਦੀ ਹੈ।
ਰਵਾਇਤੀ ਡੇਟਾ ਸੈਂਟਰ ਇਹਨਾਂ ਤੇਜ਼ੀ ਨਾਲ ਵਧਦੀਆਂ ਮੰਗਾਂ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਬੁਰੀ ਤਰ੍ਹਾਂ ਲੈਸ ਹਨ। AI ਫੈਕਟਰੀਆਂ, ਹਾਲਾਂਕਿ, ਇਸ ਵਿਸ਼ਾਲ ਕੰਪਿਊਟ ਲੋੜ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਅਤੇ ਕਾਇਮ ਰੱਖਣ ਲਈ ਉਦੇਸ਼-ਨਿਰਮਿਤ ਹਨ, ਜੋ AI ਅਨੁਮਾਨ ਅਤੇ ਤੈਨਾਤੀ ਦੋਵਾਂ ਲਈ ਆਦਰਸ਼ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ।
ਹਾਰਡਵੇਅਰ ਫਾਊਂਡੇਸ਼ਨ: GPUs, DPUs, ਅਤੇ ਹਾਈ-ਸਪੀਡ ਨੈੱਟਵਰਕ
ਇੱਕ AI ਫੈਕਟਰੀ ਬਣਾਉਣ ਲਈ ਇੱਕ ਮਜ਼ਬੂਤ ਹਾਰਡਵੇਅਰ ਬੈਕਬੋਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਅਤੇ Nvidia ਆਪਣੇ ਉੱਨਤ ਚਿਪਸ ਅਤੇ ਏਕੀਕ੍ਰਿਤ ਸਿਸਟਮਾਂ ਰਾਹੀਂ ਜ਼ਰੂਰੀ ‘ਫੈਕਟਰੀ ਉਪਕਰਣ’ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਹਰ AI ਫੈਕਟਰੀ ਦੇ ਕੇਂਦਰ ਵਿੱਚ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਕੰਪਿਊਟਿੰਗ ਹੁੰਦੀ ਹੈ, ਜੋ ਮੁੱਖ ਤੌਰ ‘ਤੇ Nvidia ਦੇ GPUs ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਹੁੰਦੀ ਹੈ। ਇਹ ਵਿਸ਼ੇਸ਼ ਪ੍ਰੋਸੈਸਰ ਸਮਾਨਾਂਤਰ ਪ੍ਰੋਸੈਸਿੰਗ ਵਿੱਚ ਉੱਤਮ ਹੁੰਦੇ ਹਨ ਜੋ AI ਵਰਕਲੋਡਾਂ ਲਈ ਬੁਨਿਆਦੀ ਹੈ। 2010 ਦੇ ਦਹਾਕੇ ਵਿੱਚ ਡੇਟਾ ਸੈਂਟਰਾਂ ਵਿੱਚ ਉਹਨਾਂ ਦੀ ਸ਼ੁਰੂਆਤ ਤੋਂ ਬਾਅਦ, GPUs ਨੇ ਥ੍ਰੁਪੁੱਟ ਵਿੱਚ ਕ੍ਰਾਂਤੀ ਲਿਆ ਦਿੱਤੀ ਹੈ, CPU-ਸਿਰਫ਼ ਸਰਵਰਾਂ ਦੇ ਮੁਕਾਬਲੇ ਪ੍ਰਤੀ ਵਾਟ ਅਤੇ ਪ੍ਰਤੀ ਡਾਲਰ ਕਾਫ਼ੀ ਜ਼ਿਆਦਾ ਪ੍ਰਦਰਸ਼ਨ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।
Nvidia ਦੇ ਫਲੈਗਸ਼ਿਪ ਡੇਟਾ ਸੈਂਟਰ GPUs ਨੂੰ ਇਸ ਨਵੀਂ ਉਦਯੋਗਿਕ ਕ੍ਰਾਂਤੀ ਦੇ ਇੰਜਣ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ। ਇਹ GPUs ਅਕਸਰ Nvidia DGX ਸਿਸਟਮਾਂ ਵਿੱਚ ਤੈਨਾਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਜੋ ਕਿ ਜ਼ਰੂਰੀ ਤੌਰ ‘ਤੇ ਟਰਨਕੀ AI ਸੁਪਰ ਕੰਪਿਊਟਰ ਹਨ। Nvidia DGX SuperPOD, ਕਈ DGX ਸਰਵਰਾਂ ਦਾ ਇੱਕ ਕਲੱਸਟਰ, ਉੱਦਮਾਂ ਲਈ ‘ਟਰਨਕੀ AI ਫੈਕਟਰੀ ਦਾ ਉਦਾਹਰਣ’ ਵਜੋਂ ਵਰਣਨ ਕੀਤਾ ਗਿਆ ਹੈ, ਜੋ AI ਕੰਪਿਊਟੇਸ਼ਨ ਲਈ ਇੱਕ ਪ੍ਰੀਫੈਬਰੀਕੇਟਿਡ ਫੈਕਟਰੀ ਦੇ ਸਮਾਨ ਇੱਕ ਵਰਤੋਂ ਲਈ ਤਿਆਰ AI ਡੇਟਾ ਸੈਂਟਰ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ।
ਕੱਚੀ ਕੰਪਿਊਟ ਸ਼ਕਤੀ ਤੋਂ ਇਲਾਵਾ, ਇੱਕ AI ਫੈਕਟਰੀ ਦਾ ਨੈੱਟਵਰਕ ਫੈਬਰਿਕ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੈ। AI ਵਰਕਲੋਡਾਂ ਵਿੱਚ ਵਿਤਰਿਤ ਪ੍ਰੋਸੈਸਰਾਂ ਵਿਚਕਾਰ ਵਿਸ਼ਾਲ ਡੇਟਾਸੈੱਟਾਂ ਦੀ ਤੇਜ਼ੀ ਨਾਲ ਆਵਾਜਾਈ ਸ਼ਾਮਲ ਹੁੰਦੀ ਹੈ। Nvidia ਇਸ ਚੁਣੌਤੀ ਨੂੰ NVLink ਅਤੇ NVSwitch ਵਰਗੀਆਂ ਤਕਨਾਲੋਜੀਆਂ ਨਾਲ ਹੱਲ ਕਰਦਾ ਹੈ, ਉੱਚ-ਸਪੀਡ ਇੰਟਰਕਨੈਕਟ ਜੋ ਇੱਕ ਸਰਵਰ ਦੇ ਅੰਦਰ GPUs ਨੂੰ ਅਸਾਧਾਰਨ ਬੈਂਡਵਿਡਥ ‘ਤੇ ਡੇਟਾ ਸਾਂਝਾ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦੇ ਹਨ। ਸਰਵਰਾਂ ਵਿੱਚ ਸਕੇਲਿੰਗ ਲਈ, Nvidia ਅਲਟਰਾ-ਫਾਸਟ ਨੈੱਟਵਰਕਿੰਗ ਹੱਲ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ InfiniBand ਅਤੇ Spectrum-X ਈਥਰਨੈੱਟ ਸਵਿੱਚ ਸ਼ਾਮਲ ਹਨ, ਅਕਸਰ ਨੈੱਟਵਰਕ ਅਤੇ ਸਟੋਰੇਜ ਕਾਰਜਾਂ ਨੂੰ ਆਫਲੋਡ ਕਰਨ ਲਈ BlueField ਡੇਟਾ ਪ੍ਰੋਸੈਸਿੰਗ ਯੂਨਿਟਾਂ (DPUs) ਨਾਲ ਜੋੜੇ ਜਾਂਦੇ ਹਨ।
ਇਹ ਅੰਤ-ਤੋਂ-ਅੰਤ, ਉੱਚ-ਸਪੀਡ ਕਨੈਕਟੀਵਿਟੀ ਪਹੁੰਚ ਰੁਕਾਵਟਾਂ ਨੂੰ ਖਤਮ ਕਰਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਹਜ਼ਾਰਾਂ GPUs ਇੱਕ ਸਿੰਗਲ, ਵਿਸ਼ਾਲ ਕੰਪਿਊਟਰ ਵਜੋਂ ਸਹਿਜੇ ਹੀ ਸਹਿਯੋਗ ਕਰ ਸਕਦੇ ਹਨ। Nvidia ਦਾ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਪੂਰੇ ਡੇਟਾ ਸੈਂਟਰ ਨੂੰ ਕੰਪਿਊਟ ਦੀ ਨਵੀਂ ਇਕਾਈ ਵਜੋਂ ਮੰਨਣਾ ਹੈ, ਚਿਪਸ, ਸਰਵਰਾਂ ਅਤੇ ਰੈਕਾਂ ਨੂੰ ਇੰਨੀ ਕੱਸ ਕੇ ਜੋੜਨਾ ਹੈ ਕਿ AI ਫੈਕਟਰੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸੁਪਰ ਕੰਪਿਊਟਰ ਵਜੋਂ ਕੰਮ ਕਰਦੀ ਹੈ।
ਇੱਕ ਹੋਰ ਮੁੱਖ ਹਾਰਡਵੇਅਰ ਨਵੀਨਤਾ Grace Hopper Superchip ਹੈ, ਜੋ ਇੱਕ ਸਿੰਗਲ ਪੈਕੇਜ ਵਿੱਚ ਇੱਕ Nvidia Grace CPU ਨੂੰ ਇੱਕ Nvidia Hopper GPU ਨਾਲ ਜੋੜਦੀ ਹੈ। ਇਹ ਡਿਜ਼ਾਈਨ NVLink ਰਾਹੀਂ 900 GB/s ਦੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਚਿੱਪ-ਟੂ-ਚਿੱਪ ਬੈਂਡਵਿਡਥ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਇੱਕ ਯੂਨੀਫਾਈਡ ਮੈਮੋਰੀ ਪੂਲ ਬਣਾਉਂਦਾ ਹੈ। CPU ਅਤੇ GPU ਨੂੰ ਕੱਸ ਕੇ ਜੋੜ ਕੇ, Grace Hopper ਰਵਾਇਤੀ PCIe ਰੁਕਾਵਟ ਨੂੰ ਖਤਮ ਕਰਦਾ ਹੈ, ਤੇਜ਼ ਡੇਟਾ ਫੀਡਿੰਗ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦਾ ਹੈ ਅਤੇ ਮੈਮੋਰੀ ਵਿੱਚ ਵੱਡੇ ਮਾਡਲਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। Grace Hopper ‘ਤੇ ਬਣੇ ਸਿਸਟਮ ਸਟੈਂਡਰਡ ਆਰਕੀਟੈਕਚਰ ਦੇ ਮੁਕਾਬਲੇ CPU ਅਤੇ GPU ਵਿਚਕਾਰ 7 ਗੁਣਾ ਜ਼ਿਆਦਾ ਥ੍ਰੁਪੁੱਟ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।
ਏਕੀਕਰਣ ਦਾ ਇਹ ਪੱਧਰ AI ਫੈਕਟਰੀਆਂ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ, ਇਹ ਸੁਨਿਸ਼ਚਿਤ ਕਰਦਾ ਹੈ ਕਿ ਡੇਟਾ-ਭੁੱਖੇ GPUs ਕਦੇ ਵੀ ਜਾਣਕਾਰੀ ਤੋਂ ਵਾਂਝੇ ਨਾ ਰਹਿਣ। GPUs ਅਤੇ CPUs ਤੋਂ ਲੈ ਕੇ DPUs ਅਤੇ ਨੈੱਟਵਰਕਿੰਗ ਤੱਕ, Nvidia ਦਾ ਹਾਰਡਵੇਅਰ ਪੋਰਟਫੋਲੀਓ, ਅਕਸਰ DGX ਸਿਸਟਮਾਂ ਜਾਂ ਕਲਾਉਡ ਪੇਸ਼ਕਸ਼ਾਂ ਵਿੱਚ ਇਕੱਠਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, AI ਫੈਕਟਰੀ ਦੇ ਭੌਤਿਕ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਗਠਨ ਕਰਦਾ ਹੈ।
ਸੌਫਟਵੇਅਰ ਸਟੈਕ: CUDA, Nvidia AI Enterprise, ਅਤੇ Omniverse
ਸਿਰਫ਼ ਹਾਰਡਵੇਅਰ ਹੀ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ; AI ਫੈਕਟਰੀ ਦਾ Nvidia ਦਾ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਇਸ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਪੂਰੀ ਤਰ੍ਹਾਂ ਲਾਭ ਉਠਾਉਣ ਲਈ ਇੱਕ ਵਿਆਪਕ ਸੌਫਟਵੇਅਰ ਸਟੈਕ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ। ਬੁਨਿਆਦ ‘ਤੇ CUDA ਹੈ, Nvidia ਦਾ ਸਮਾਨਾਂਤਰ ਕੰਪਿਊਟਿੰਗ ਪਲੇਟਫਾਰਮ ਅਤੇ ਪ੍ਰੋਗਰਾਮਿੰਗ ਮਾਡਲ, ਜੋ ਡਿਵੈਲਪਰਾਂ ਨੂੰ GPU ਪ੍ਰਵੇਗ ਦੀ ਸ਼ਕਤੀ ਦਾ ਉਪਯੋਗ ਕਰਨ ਲਈ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
CUDA ਅਤੇ ਇਸ ਨਾਲ ਸੰਬੰਧਿਤ CUDA-X ਲਾਇਬ੍ਰੇਰੀਆਂ (ਡੂੰਘੀ ਸਿਖਲਾਈ, ਡੇਟਾ ਵਿਸ਼ਲੇਸ਼ਣ, ਆਦਿ ਲਈ) GPU ਕੰਪਿਊਟਿੰਗ ਲਈ ਮਿਆਰ ਬਣ ਗਏ ਹਨ, AI ਐਲਗੋਰਿਦਮ ਦੇ ਵਿਕਾਸ ਨੂੰ ਸਰਲ ਬਣਾਉਂਦੇ ਹਨ ਜੋ Nvidia ਹਾਰਡਵੇਅਰ ‘ਤੇ ਕੁਸ਼ਲਤਾ ਨਾਲ ਚੱਲਦੇ ਹਨ। ਹਜ਼ਾਰਾਂ AI ਅਤੇ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਕੰਪਿਊਟਿੰਗ ਐਪਲੀਕੇਸ਼ਨ CUDA ਪਲੇਟਫਾਰਮ ‘ਤੇ ਬਣੇ ਹਨ, ਜਿਸ ਨਾਲ ਇਹ ਡੂੰਘੀ ਸਿਖਲਾਈ ਖੋਜ ਅਤੇ ਵਿਕਾਸ ਲਈ ਤਰਜੀਹੀ ਵਿਕਲਪ ਬਣ ਗਿਆ ਹੈ। AI ਫੈਕਟਰੀ ਸੰਦਰਭ ਦੇ ਅੰਦਰ, CUDA ‘ਫੈਕਟਰੀ ਫਲੋਰ’ ‘ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਵੱਧ ਤੋਂ ਵੱਧ ਕਰਨ ਲਈ ਹੇਠਲੇ-ਪੱਧਰ ਦੇ ਟੂਲ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
ਇਸ ਬੁਨਿਆਦ ‘ਤੇ ਨਿਰਮਾਣ ਕਰਦੇ ਹੋਏ, Nvidia, Nvidia AI Enterprise ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ, ਜੋ ਕਿ ਉੱਦਮਾਂ ਲਈ AI ਵਿਕਾਸ ਅਤੇ ਤੈਨਾਤੀ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਇੱਕ ਕਲਾਉਡ-ਨੇਟਿਵ ਸੌਫਟਵੇਅਰ ਸੂਟ ਹੈ। Nvidia AI Enterprise 100 ਤੋਂ ਵੱਧ ਫਰੇਮਵਰਕ, ਪ੍ਰੀ-ਟ੍ਰੇਨਡ ਮਾਡਲਾਂ ਅਤੇ ਟੂਲਸ ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਦਾ ਹੈ – ਸਾਰੇ Nvidia GPUs ਲਈ ਅਨੁਕੂਲਿਤ – ਉੱਦਮ-ਗਰੇਡ ਸਹਾਇਤਾ ਦੇ ਨਾਲ ਇੱਕ ਇਕਸਾਰ ਪਲੇਟਫਾਰਮ ਵਿੱਚ। ਇਹ AI ਪਾਈਪਲਾਈਨ ਦੇ ਹਰ ਪੜਾਅ ਨੂੰ ਤੇਜ਼ ਕਰਦਾ ਹੈ, ਡੇਟਾ ਦੀ ਤਿਆਰੀ ਅਤੇ ਮਾਡਲ ਸਿਖਲਾਈ ਤੋਂ ਲੈ ਕੇ ਅਨੁਮਾਨ ਸੇਵਾ ਤੱਕ, ਜਦਕਿ ਉਤਪਾਦਨ ਤੈਨਾਤੀਆਂ ਲਈ ਸੁਰੱਖਿਆ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ।
ਸੰਖੇਪ ਵਿੱਚ, AI Enterprise AI ਫੈਕਟਰੀ ਦੇ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਅਤੇ ਮਿਡਲਵੇਅਰ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਇਹ ਵਰਤੋਂ ਲਈ ਤਿਆਰ ਭਾਗ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ Nvidia Inference Microservices (ਤੇਜ਼ ਤੈਨਾਤੀ ਲਈ ਕੰਟੇਨਰਾਈਜ਼ਡ AI ਮਾਡਲ) ਅਤੇ Nvidia NeMo ਫਰੇਮਵਰਕ (ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਅਨੁਕੂਲਿਤ ਕਰਨ ਲਈ)। ਇਹਨਾਂ ਬਿਲਡਿੰਗ ਬਲਾਕਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਕੇ, AI Enterprise ਕੰਪਨੀਆਂ ਨੂੰ AI ਹੱਲਾਂ ਦੇ ਵਿਕਾਸ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਪ੍ਰੋਟੋਟਾਈਪ ਤੋਂ ਉਤਪਾਦਨ ਵਿੱਚ ਸਹਿਜੇ ਹੀ ਤਬਦੀਲ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ।
Nvidia ਦੇ ਸੌਫਟਵੇਅਰ ਸਟੈਕ ਵਿੱਚ AI ਫੈਕਟਰੀ ਦੇ ਸੰਚਾਲਨ ਦਾ ਪ੍ਰਬੰਧਨ ਅਤੇ ਆਰਕੈਸਟ੍ਰੇਟ ਕਰਨ ਲਈ ਟੂਲ ਵੀ ਸ਼ਾਮਲ ਹਨ। ਉਦਾਹਰਨ ਲਈ, Nvidia Base Command ਅਤੇ Run:AI ਵਰਗੇ ਭਾਈਵਾਲਾਂ ਦੇ ਟੂਲ ਇੱਕ ਕਲੱਸਟਰ ਵਿੱਚ ਨੌਕਰੀ ਦੀ ਸਮਾਂ-ਸਾਰਣੀ, ਡੇਟਾ ਪ੍ਰਬੰਧਨ, ਅਤੇ ਇੱਕ ਬਹੁ-ਉਪਭੋਗਤਾ ਵਾਤਾਵਰਣ ਵਿੱਚ GPU ਵਰਤੋਂ ਦੀ ਨਿਗਰਾਨੀ ਦੀ ਸਹੂਲਤ ਦਿੰਦੇ ਹਨ। Nvidia Mission Control (Run:AI ਤਕਨਾਲੋਜੀ ‘ਤੇ ਬਣਾਇਆ ਗਿਆ) ਵਰਕਲੋਡਾਂ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਨਿਗਰਾਨੀ ਲਈ ਇੱਕ ਯੂਨੀਫਾਈਡ ਇੰਟਰਫੇਸ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਉਪਯੋਗਤਾ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਬੁੱਧੀ ਹੁੰਦੀ ਹੈ। ਇਹ ਟੂਲ AI ਫੈਕਟਰੀ ਸੰਚਾਲਨਾਂ ਵਿੱਚ ਕਲਾਉਡ ਵਰਗੀ ਚੁਸਤੀ ਲਿਆਉਂਦੇ ਹਨ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਛੋਟੀਆਂ IT ਟੀਮਾਂ ਨੂੰ ਵੀ ਇੱਕ ਸੁਪਰ ਕੰਪਿਊਟਰ-ਸਕੇਲ AI ਕਲੱਸਟਰ ਨੂੰ ਕੁਸ਼ਲਤਾ ਨਾਲ ਪ੍ਰਬੰਧਿਤ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦੇ ਹਨ।
Nvidia ਦੇ ਸੌਫਟਵੇਅਰ ਸਟੈਕ ਦਾ ਇੱਕ ਖਾਸ ਤੌਰ ‘ਤੇ ਵਿਲੱਖਣ ਤੱਤ Nvidia Omniverse ਹੈ, ਜੋ AI ਫੈਕਟਰੀ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਭੂਮਿਕਾ ਨਿਭਾਉਂਦਾ ਹੈ। Omniverse ਇੱਕ ਸਿਮੂਲੇਸ਼ਨ ਅਤੇ ਸਹਿਯੋਗ ਪਲੇਟਫਾਰਮ ਹੈ ਜੋ ਸਿਰਜਣਹਾਰਾਂ ਅਤੇ ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਡਿਜੀਟਲ ਜੁੜਵਾਂ – ਅਸਲ-ਸੰਸਾਰ ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਵਰਚੁਅਲ ਪ੍ਰਤੀਕ੍ਰਿਤੀਆਂ – ਭੌਤਿਕ ਤੌਰ ‘ਤੇ ਸਹੀ ਸਿਮੂਲੇਸ਼ਨ ਨਾਲ ਬਣਾਉਣ ਲਈ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
AI ਫੈਕਟਰੀਆਂ ਲਈ, Nvidia ਨੇ AI ਫੈਕਟਰੀ ਡਿਜ਼ਾਈਨ ਅਤੇ ਸੰਚਾਲਨ ਲਈ Omniverse Blueprint ਪੇਸ਼ ਕੀਤਾ ਹੈ। ਇਹ ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਕਿਸੇ ਵੀ ਹਾਰਡਵੇਅਰ ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਵਰਚੁਅਲ ਵਾਤਾਵਰਣ ਵਿੱਚ AI ਡੇਟਾ ਸੈਂਟਰਾਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਅਤੇ ਅਨੁਕੂਲ ਬਣਾਉਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ। ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, Omniverse ਉੱਦਮਾਂ ਅਤੇ ਕਲਾਉਡ ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਇੱਕ AI ਫੈਕਟਰੀ (ਕੂਲਿੰਗ ਲੇਆਉਟ ਤੋਂ ਲੈ ਕੇ ਨੈੱਟਵਰਕਿੰਗ ਤੱਕ) ਨੂੰ ਇੱਕ 3D ਮਾਡਲ ਵਜੋਂ ਸਿਮੂਲੇਟ ਕਰਨ, ਤਬਦੀਲੀਆਂ ਦੀ ਜਾਂਚ ਕਰਨ, ਅਤੇ ਇੱਕ ਸਿੰਗਲ ਸਰਵਰ ਸਥਾਪਤ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਵਰਚੁਅਲ ਤੌਰ ‘ਤੇ ਸਮੱਸਿਆ ਦਾ ਨਿਪਟਾਰਾ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ। ਇਹ ਨਾਟਕੀ ਢੰਗ ਨਾਲ ਜੋਖਮ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ ਅਤੇ ਨਵੇਂ AI ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਤੈਨਾਤੀ ਨੂੰ ਤੇਜ਼ ਕਰਦਾ ਹੈ।
ਡੇਟਾ ਸੈਂਟਰ ਡਿਜ਼ਾਈਨ ਤੋਂ ਇਲਾਵਾ, Omniverse ਦੀ ਵਰਤੋਂ ਰੋਬੋਟਾਂ, ਆਟੋਨੋਮਸ ਵਾਹਨਾਂ ਅਤੇ ਹੋਰ AI-ਸੰਚਾਲਿਤ ਮਸ਼ੀਨਾਂ ਨੂੰ ਫੋਟੋਰੀਅਲਿਸਟਿਕ ਵਰਚੁਅਲ ਸੰਸਾਰਾਂ ਵਿੱਚ ਸਿਮੂਲੇਟ ਕਰਨ ਲਈ ਵੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਇਹ ਰੋਬੋਟਿਕਸ ਅਤੇ ਆਟੋਮੋਟਿਵ ਵਰਗੇ ਉਦਯੋਗਾਂ ਵਿੱਚ AI ਮਾਡਲਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਨ ਲਈ ਅਨਮੋਲ ਹੈ, ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਇੱਕ AI ਫੈਕਟਰੀ ਦੀ ਸਿਮੂਲੇਸ਼ਨ ਵਰਕਸ਼ਾਪ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ। Omniverse ਨੂੰ ਆਪਣੇ AI ਸਟੈਕ ਨਾਲ ਏਕੀਕ੍ਰਿਤ ਕਰਕੇ, Nvidia ਇਹ ਸੁਨਿਸ਼ਚਿਤ ਕਰਦਾ ਹੈ ਕਿ AI ਫੈਕਟਰੀ ਸਿਰਫ਼ ਤੇਜ਼ ਮਾਡਲ ਸਿਖਲਾਈ ਬਾਰੇ ਹੀ ਨਹੀਂ ਹੈ, ਸਗੋਂ ਡਿਜੀਟਲ ਟਵਿਨ ਸਿਮੂਲੇਸ਼ਨ ਰਾਹੀਂ ਅਸਲ-ਸੰਸਾਰ ਤੈਨਾਤੀ ਦੇ ਪਾੜੇ ਨੂੰ ਪੂਰਾ ਕਰਨ ਬਾਰੇ ਵੀ ਹੈ।
AI ਫੈਕਟਰੀ: ਇੱਕ ਨਵਾਂ ਉਦਯੋਗਿਕ ਪੈਰਾਡਾਈਮ
ਜੇਨਸਨ ਹੁਆਂਗ ਦਾ AI ਨੂੰ ਇੱਕ ਉਦਯੋਗਿਕ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਜੋਂ, ਬਿਜਲੀ ਜਾਂ ਕਲਾਉਡ ਕੰਪਿਊਟਿੰਗ ਦੇ ਮੁਕਾਬਲੇ, ਇੱਕ ਡੂੰਘੀ ਤਬਦੀਲੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਅਸੀਂ AI ਨੂੰ ਕਿਵੇਂ ਸਮਝਦੇ ਹਾਂ ਅਤੇ ਇਸਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਾਂ। ਇਹ ਸਿਰਫ਼ ਇੱਕ ਉਤਪਾਦ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ ਮੁੱਖ ਆਰਥਿਕ ਚਾਲਕ ਹੈ ਜੋ ਐਂਟਰਪ੍ਰਾਈਜ਼ IT ਤੋਂ ਲੈ ਕੇ ਆਟੋਨੋਮਸ ਫੈਕਟਰੀਆਂ ਤੱਕ ਹਰ ਚੀਜ਼ ਨੂੰ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰੇਗਾ। ਇਹ ਜਨਰੇਟਿਵ AI ਦੀ ਪਰਿਵਰਤਨਸ਼ੀਲ ਸ਼ਕਤੀ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਇੱਕ ਨਵੀਂ ਉਦਯੋਗਿਕ ਕ੍ਰਾਂਤੀ ਤੋਂ ਘੱਟ ਕੁਝ ਨਹੀਂ ਹੈ।
AI ਫੈਕਟਰੀ ਲਈ Nvidia ਦਾ ਵਿਆਪਕ ਸੌਫਟਵੇਅਰ ਸਟੈਕ, ਹੇਠਲੇ-ਪੱਧਰ ਦੇ GPU ਪ੍ਰੋਗਰਾਮਿੰਗ (CUDA) ਤੋਂ ਲੈ ਕੇ ਐਂਟਰਪ੍ਰਾਈਜ਼-ਗਰੇਡ ਪਲੇਟਫਾਰਮਾਂ (AI Enterprise) ਅਤੇ ਸਿਮੂਲੇਸ਼ਨ ਟੂਲਸ (Omniverse) ਤੱਕ ਫੈਲਿਆ ਹੋਇਆ ਹੈ, ਸੰਸਥਾਵਾਂ ਨੂੰ ਇੱਕ-ਸਟਾਪ ਈਕੋਸਿਸਟਮ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਉਹ Nvidia ਹਾਰਡਵੇਅਰ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਡੇਟਾ, ਸਿਖਲਾਈ, ਅਨੁਮਾਨ, ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਵਰਚੁਅਲ ਟੈਸਟਿੰਗ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ Nvidia ਦੇ ਅਨੁਕੂਲਿਤ ਸੌਫਟਵੇਅਰ ਦਾ ਲਾਭ ਉਠਾ ਸਕਦੇ ਹਨ, ਗਾਰੰਟੀਸ਼ੁਦਾ ਅਨੁਕੂਲਤਾ ਅਤੇ ਸਹਾਇਤਾ ਦੇ ਨਾਲ। ਇਹ ਸੱਚਮੁੱਚ ਇੱਕ ਏਕੀਕ੍ਰਿਤ ਫੈਕਟਰੀ ਫਲੋਰ ਵਰਗਾ ਹੈ, ਜਿੱਥੇ ਹਰ ਭਾਗ ਨੂੰ ਇਕਸੁਰਤਾ ਵਿੱਚ ਕੰਮ ਕਰਨ ਲਈ ਸਾਵਧਾਨੀ ਨਾਲ ਟਿਊਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। Nvidia ਅਤੇ ਇਸਦੇ ਭਾਈਵਾਲ ਲਗਾਤਾਰ ਇਸ ਸਟੈਕ ਨੂੰ ਨਵੀਆਂ ਸਮਰੱਥਾਵਾਂ ਨਾਲ ਵਧਾ ਰਹੇ ਹਨ, ਜਿਸਦੇ ਨਤੀਜੇ ਵਜੋਂ ਇੱਕ ਮਜ਼ਬੂਤ ਸੌਫਟਵੇਅਰ ਬੁਨਿਆਦ ਹੈ ਜੋ ਡੇਟਾ ਵਿਗਿਆਨੀਆਂ ਅਤੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀਆਂ ਜਟਿਲਤਾਵਾਂ ਨਾਲ ਜੂਝਣ ਦੀ ਬਜਾਏ AI ਹੱਲ ਬਣਾਉਣ ‘ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ।