Nvidia ਏਜੰਟ-ਅਧਾਰਿਤ AI ਦੀ ਭਵਿੱਖ ਦੀ ਲਹਿਰ ‘ਤੇ ਆਪਣੀਆਂ ਨਜ਼ਰਾਂ ਟਿਕਾਈ ਬੈਠੀ ਹੈ, ਇਹ ਇੱਕ ਅਜਿਹਾ ਖੇਤਰ ਹੈ ਜੋ ਅਨੁਮਾਨ ਸਮਰੱਥਾਵਾਂ ‘ਤੇ ਬੇਮਿਸਾਲ ਮੰਗਾਂ ਰੱਖਣ ਦਾ ਵਾਅਦਾ ਕਰਦਾ ਹੈ। ਇਸ ਚੁਣੌਤੀ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ, Nvidia ਨੇ ਹਾਰਡਵੇਅਰ ਅਤੇ ਸਾਫਟਵੇਅਰ ਦੋਵਾਂ ਵਿੱਚ ਨਵੀਨਤਾਵਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦੀ ਇੱਕ ਵਿਆਪਕ ਰਣਨੀਤੀ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ ਹੈ।
ਹਾਰਡਵੇਅਰ ਰਣਨੀਤੀ: ਸਕੇਲਿੰਗ ਅੱਪ ਐਂਡ ਆਊਟ
Nvidia ਦੀ ਹਾਰਡਵੇਅਰ ਰਣਨੀਤੀ ਦਾ ਦਿਲ ਹੋਰ ਤੋਂ ਹੋਰ ਸ਼ਕਤੀਸ਼ਾਲੀ GPUs ਦੀ ਨਿਰੰਤਰ ਖੋਜ ਹੈ। ਕੰਪਨੀ ਇੱਕ ਦੋਹਰੀ ਪਹੁੰਚ ਅਪਣਾ ਰਹੀ ਹੈ, ਪਹਿਲਾਂ ਵਰਟੀਕਲ ਸਕੇਲਿੰਗ ‘ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਨਾ, ਫਿਰ ਹਰੀਜੱਟਲ ਸਕੇਲਿੰਗ ‘ਤੇ। ਟੀਚਾ ਸਿਰਫ਼ ਇੱਕ ਸਿੰਗਲ, ਅਤਿ-ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਸੁਪਰ ਕੰਪਿਊਟਰ ਨੂੰ ਇੱਕ ਰੈਕ ਵਿੱਚ ਵਿਕਸਤ ਕਰਨਾ ਨਹੀਂ ਹੈ, ਬਲਕਿ ਆਪਸ ਵਿੱਚ ਜੁੜੇ ਰੈਕਾਂ ਦਾ ਇੱਕ ਪੂਰਾ ਈਕੋਸਿਸਟਮ ਬਣਾਉਣਾ ਹੈ, ਜੋ ਇੱਕ ਵਿਸ਼ਾਲ AI ਸੁਪਰ ਕੰਪਿਊਟਰ ਕੰਪਲੈਕਸ ਬਣਾਉਂਦਾ ਹੈ। ਇਹ ‘AI ਫੈਕਟਰੀ’ ਪਹੁੰਚ ਸਭ ਤੋਂ ਵੱਧ ਮੰਗ ਵਾਲੇ AI ਵਰਕਲੋਡ ਲਈ ਲੋੜੀਂਦੀ ਕੰਪਿਊਟੇਸ਼ਨਲ ਤਾਕਤ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੀ ਗਈ ਹੈ।
ਨਵਾਂ Blackwell Ultra ਰੈਕ-ਮਾਊਂਟਡ AI ਸੁਪਰ ਕੰਪਿਊਟਰ, ਜੋ ਹਾਲ ਹੀ ਵਿੱਚ ਹੋਈ GTC ਕਾਨਫਰੰਸ ਵਿੱਚ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ, ਇਸ ਰਣਨੀਤੀ ਦੀ ਇੱਕ ਉਦਾਹਰਣ ਹੈ। ਸਿਖਲਾਈ ਅਤੇ ਟੈਸਟ-ਟਾਈਮ ਸਕੇਲਿੰਗ ਅਨੁਮਾਨ ਦੋਵਾਂ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ, Blackwell Ultra ਮੌਜੂਦਾ Blackwell ਆਰਕੀਟੈਕਚਰ ਦਾ ਲਾਭ ਉਠਾਉਂਦਾ ਹੈ ਪਰ ਇਸ ਵਿੱਚ ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ GB300 NVL72 ਸ਼ਾਮਲ ਹੈ। ਇਸ ਸੰਰਚਨਾ ਵਿੱਚ NVLink ਦੁਆਰਾ ਆਪਸ ਵਿੱਚ ਜੁੜੇ 72 Blackwell Ultra GPUs ਸ਼ਾਮਲ ਹਨ, ਜੋ FP4 ਸ਼ੁੱਧਤਾ ਕੰਪਿਊਟ ਪਾਵਰ ਦਾ ਇੱਕ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ 1.1 Exaflops ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। GB300 NVL72 GB200 NVL72 ਨਾਲੋਂ 1.5 ਗੁਣਾ AI ਪ੍ਰਦਰਸ਼ਨ ਦਾ ਮਾਣ ਕਰਦਾ ਹੈ। ਇੱਕ ਸਿੰਗਲ DGS GB300 ਸਿਸਟਮ 15 Exaflops ਕੰਪਿਊਟ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ। 2025 ਦੇ ਦੂਜੇ ਅੱਧ ਵਿੱਚ ਰਿਲੀਜ਼ ਹੋਣ ਵਾਲਾ, Blackwell Ultra ਨੂੰ ਸਿਸਕੋ, ਡੈਲ, HPE, Lenovo, ASUS, Foxconn, Gigabyte, Pegatron ਅਤੇ Quanta ਸਮੇਤ ਸਰਵਰ ਉਪਕਰਣ ਵਿਕਰੇਤਾਵਾਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ਦੁਆਰਾ ਸਮਰਥਨ ਦਿੱਤਾ ਜਾਵੇਗਾ। ਇਸ ਤੋਂ ਇਲਾਵਾ, AWS, GCP ਅਤੇ Azure ਵਰਗੇ ਕਲਾਉਡ ਸੇਵਾ ਪ੍ਰਦਾਤਾ Blackwell Ultra ‘ਤੇ ਆਧਾਰਿਤ ਕੰਪਿਊਟ ਸੇਵਾਵਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਨਗੇ।
ਇਹਨਾਂ ਪਾਵਰ ਪਲਾਂਟ-ਪੱਧਰੀ AI ਫੈਕਟਰੀ ਪ੍ਰਣਾਲੀਆਂ ਤੋਂ ਇਲਾਵਾ, Nvidia ਨੇ ਉੱਦਮਾਂ ਦੇ ਅੰਦਰ ਅਨੁਮਾਨ ਲੋੜਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਵਾਲੇ ਕੰਪਿਊਟਰਾਂ ਦੀ ਇੱਕ ਨਵੀਂ ਲਾਈਨ ਵੀ ਪੇਸ਼ ਕੀਤੀ ਹੈ। ਇਹਨਾਂ ਵਿੱਚ DGX Spark ਅਤੇ DGX Station ਨਿੱਜੀ AI ਕੰਪਿਊਟਰ ਸ਼ਾਮਲ ਹਨ। DGX Spark, ਆਕਾਰ ਵਿੱਚ ਇੱਕ Mac mini ਵਰਗਾ ਹੈ, ਜੋ 1 PFlops ਤੱਕ ਕੰਪਿਊਟ ਪਾਵਰ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
ਇਸ ਨੂੰ ਪਰਿਪੇਖ ਵਿੱਚ ਪਾਉਣ ਲਈ, ਤਾਈਵਾਨੀਆ 3 ਸੁਪਰ ਕੰਪਿਊਟਰ, ਜੋ 2021 ਵਿੱਚ 50,000 ਤੋਂ ਵੱਧ ਕੋਰਾਂ ਨਾਲ ਲਾਂਚ ਕੀਤਾ ਗਿਆ ਸੀ, ਸਿਰਫ਼ 2.7 PFlops ਪ੍ਰਦਰਸ਼ਨ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਸਿਰਫ਼ ਚਾਰ ਸਾਲਾਂ ਵਿੱਚ, ਤਿੰਨ ਡੈਸਕਟਾਪ-ਆਕਾਰ ਦੇ ਨਿੱਜੀ AI ਕੰਪਿਊਟਰਾਂ ਦੀ ਕੰਪਿਊਟ ਪਾਵਰ ਤਾਈਵਾਨੀਆ 3 ਤੋਂ ਵੱਧ ਗਈ ਹੈ। 128GB ਮੈਮੋਰੀ ਕੌਂਫਿਗਰੇਸ਼ਨ ਲਈ $3,999 (ਲਗਭਗ NT$130,000) ਦੀ ਕੀਮਤ ਵਾਲੇ, ਇਹ ਨਵੇਂ ਨਿੱਜੀ AI ਕੰਪਿਊਟਰ ਉੱਦਮਾਂ ਦੇ ਅੰਦਰ ਭਵਿੱਖ ਦੀਆਂ ਅੰਦਰੂਨੀ AI ਲੋੜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ, ਜੋ ਮਿੰਨੀ-AI ਫੈਕਟਰੀਆਂ ਵਜੋਂ ਕੰਮ ਕਰਦੇ ਹਨ ਜਾਂ ਇੱਥੋਂ ਤੱਕ ਕਿ ਐਜ AI ਵਾਤਾਵਰਣ ਵਿੱਚ ਵੀ ਕੰਮ ਕਰਦੇ ਹਨ।
ਭਵਿੱਖ ਦਾ ਰੋਡਮੈਪ: ਵੇਰਾ ਰੂਬਿਨ ਅਤੇ ਇਸ ਤੋਂ ਅੱਗੇ
ਅੱਗੇ ਦੇਖਦੇ ਹੋਏ, Nvidia ਦੇ ਸੀਈਓ ਜੇਨਸਨ ਹੁਆਂਗ ਨੇ ਅਗਲੇ ਦੋ ਸਾਲਾਂ ਲਈ ਇੱਕ ਉਤਪਾਦ ਰੋਡਮੈਪ ਦੀ ਰੂਪਰੇਖਾ ਦਿੱਤੀ ਹੈ। 2026 ਦੇ ਦੂਜੇ ਅੱਧ ਵਿੱਚ, ਕੰਪਨੀ ਅਮਰੀਕੀ ਖਗੋਲ-ਵਿਗਿਆਨੀ ਵੇਰਾ ਰੂਬਿਨ ਦੇ ਨਾਮ ‘ਤੇ ਰੱਖੀ ਗਈ ਵੇਰਾ ਰੂਬਿਨ NVL144 ਨੂੰ ਜਾਰੀ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੀ ਹੈ, ਜਿਸਨੇ ਡਾਰਕ ਮੈਟਰ ਦੀ ਖੋਜ ਕੀਤੀ ਸੀ। ਵੇਰਾ ਰੂਬਿਨ NVL144 GB300 NVL72 ਨਾਲੋਂ 3.3 ਗੁਣਾ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰੇਗਾ, ਮੈਮੋਰੀ ਸਮਰੱਥਾ, ਬੈਂਡਵਿਡਥ ਅਤੇ NVLink ਸਪੀਡ 1.6 ਗੁਣਾ ਤੋਂ ਵੱਧ ਵਧਣ ਦੇ ਨਾਲ। 2027 ਦੇ ਦੂਜੇ ਅੱਧ ਵਿੱਚ, Nvidia ਰੂਬਿਨ ਅਲਟਰਾ NVL576 ਲਾਂਚ ਕਰੇਗਾ, ਜੋ GB300 NVL72 ਨਾਲੋਂ 14 ਗੁਣਾ ਪ੍ਰਦਰਸ਼ਨ ਪ੍ਰਦਾਨ ਕਰੇਗਾ, NVLink7 ਅਤੇ CX9 ਦੁਆਰਾ ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ ਵਧੀ ਹੋਈ ਮੈਮੋਰੀ ਸਮਰੱਥਾ ਅਤੇ ਬੈਂਡਵਿਡਥ ਸਪੀਡ ਦੇ ਨਾਲ।
ਵੇਰਾ ਰੂਬਿਨ ਆਰਕੀਟੈਕਚਰ ਤੋਂ ਬਾਅਦ, Nvidia ਦਾ ਅਗਲੀ ਪੀੜ੍ਹੀ ਦਾ ਆਰਕੀਟੈਕਚਰ ਮਸ਼ਹੂਰ ਅਮਰੀਕੀ ਭੌਤਿਕ ਵਿਗਿਆਨੀ ਰਿਚਰਡ ਫੇਨਮੈਨ ਦੇ ਨਾਮ ‘ਤੇ ਰੱਖਿਆ ਜਾਵੇਗਾ, ਜੋ ਚੈਲੇਂਜਰ ਸਪੇਸ ਸ਼ਟਲ ਤਬਾਹੀ ਜਾਂਚ ‘ਤੇ ਆਪਣੇ ਕੰਮ ਲਈ ਜਾਣੇ ਜਾਂਦੇ ਹਨ।
ਸਾਫਟਵੇਅਰ ਰਣਨੀਤੀ: Nvidia ਡਾਇਨਾਮੋ
Nvidia ਨੇ ਹਮੇਸ਼ਾ ਸਾਫਟਵੇਅਰ ‘ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਹੈ, ਇਸ ਨੂੰ ਹਾਰਡਵੇਅਰ ਨਾਲੋਂ ਵੀ ਜ਼ਿਆਦਾ ਮਹੱਤਵਪੂਰਨ ਮੰਨਿਆ ਹੈ। ਇਹ ਰਣਨੀਤਕ ਫੋਕਸ ਕੰਪਨੀ ਦੀਆਂ AI ਫੈਕਟਰੀ ਪਹਿਲਕਦਮੀਆਂ ਤੱਕ ਫੈਲਿਆ ਹੋਇਆ ਹੈ।
ਵੱਖ-ਵੱਖ ਡੋਮੇਨਾਂ ਵਿੱਚ CUDA-X AI ਐਕਸਲੇਰੇਸ਼ਨ ਲਾਇਬ੍ਰੇਰੀ ਦਾ ਵਿਸਤਾਰ ਕਰਨ ਅਤੇ ਵਿਸ਼ੇਸ਼ ਐਕਸਲੇਰੇਸ਼ਨ ਲਾਇਬ੍ਰੇਰੀਆਂ ਵਿਕਸਤ ਕਰਨ ਤੋਂ ਇਲਾਵਾ, Nvidia ਨੇ ਇੱਕ ਨਵਾਂ AI ਫੈਕਟਰੀ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ Nvidia Dynamo ਪੇਸ਼ ਕੀਤਾ ਹੈ। ਮਹੱਤਵਪੂਰਨ ਤੌਰ ‘ਤੇ, Nvidia ਨੇ ਇਸ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਨੂੰ ਓਪਨ-ਸੋਰਸ ਕੀਤਾ ਹੈ।
Nvidia Dynamo ਇੱਕ ਓਪਨ-ਸੋਰਸ ਅਨੁਮਾਨ ਸੇਵਾ ਫਰੇਮਵਰਕ ਹੈ ਜੋ LLM ਅਨੁਮਾਨ ਸੇਵਾਵਾਂ ਪ੍ਰਦਾਨ ਕਰਨ ਵਾਲੇ ਪਲੇਟਫਾਰਮ ਬਣਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਇਸਨੂੰ K8s ਵਾਤਾਵਰਣ ‘ਤੇ ਤਾਇਨਾਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਵੱਡੇ ਪੱਧਰ ‘ਤੇ AI ਅਨੁਮਾਨ ਕਾਰਜਾਂ ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਅਤੇ ਪ੍ਰਬੰਧਨ ਲਈ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ। Nvidia ਨੇ Dynamo ਨੂੰ ਆਪਣੇ NIM ਮਾਈਕ੍ਰੋਸਰਵਿਸ ਫਰੇਮਵਰਕ ਵਿੱਚ ਜੋੜਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ, ਜਿਸ ਨਾਲ ਇਹ Nvidia AI Enterprise ਫਰੇਮਵਰਕ ਦਾ ਇੱਕ ਹਿੱਸਾ ਬਣ ਜਾਵੇਗਾ।
Dynamo Nvidia ਦੇ ਮੌਜੂਦਾ ਓਪਨ-ਸੋਰਸ ਅਨੁਮਾਨ ਸਰਵਰ ਪਲੇਟਫਾਰਮ ਟ੍ਰਾਈਟਨ ਦਾ ਅਗਲੀ ਪੀੜ੍ਹੀ ਦਾ ਉਤਪਾਦ ਹੈ। ਇਸਦੀ ਮੁੱਖ ਵਿਸ਼ੇਸ਼ਤਾ LLM ਅਨੁਮਾਨ ਕਾਰਜਾਂ ਨੂੰ ਦੋ ਪੜਾਵਾਂ ਵਿੱਚ ਵੰਡਣਾ ਹੈ, ਜੋ ਅਨੁਮਾਨ ਪ੍ਰੋਸੈਸਿੰਗ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ, ਕੁਸ਼ਲਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨ ਅਤੇ GPU ਵਰਤੋਂ ਨੂੰ ਵੱਧ ਤੋਂ ਵੱਧ ਕਰਨ ਲਈ GPUs ਦੀ ਵਧੇਰੇ ਲਚਕਦਾਰ ਅਤੇ ਕੁਸ਼ਲ ਵਰਤੋਂ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ। Dynamo ਅਨੁਮਾਨ ਲੋੜਾਂ ਦੇ ਆਧਾਰ ‘ਤੇ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ GPUs ਨਿਰਧਾਰਤ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ GPUs ਵਿਚਕਾਰ ਅਸਿੰਕਰੋਨਸ ਡਾਟਾ ਟ੍ਰਾਂਸਫਰ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦਾ ਹੈ, ਮਾਡਲ ਅਨੁਮਾਨ ਜਵਾਬ ਦੇ ਸਮੇਂ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ।
ਟ੍ਰਾਂਸਫਾਰਮਰ-ਅਧਾਰਿਤ GAI ਮਾਡਲ ਅਨੁਮਾਨ ਨੂੰ ਦੋ ਪੜਾਵਾਂ ਵਿੱਚ ਵੰਡਦੇ ਹਨ: ਪ੍ਰੀਫਿਲ (ਪ੍ਰੀ-ਇਨਪੁਟ), ਜੋ ਇਨਪੁਟ ਡਾਟਾ ਨੂੰ ਸਟੋਰੇਜ ਲਈ ਟੋਕਨਾਂ ਵਿੱਚ ਬਦਲਦਾ ਹੈ, ਅਤੇ ਡੀਕੋਡ, ਇੱਕ ਕ੍ਰਮਵਾਰ ਪ੍ਰਕਿਰਿਆ ਜੋ ਪਿਛਲੇ ਦੇ ਆਧਾਰ ‘ਤੇ ਅਗਲਾ ਟੋਕਨ ਤਿਆਰ ਕਰਦੀ ਹੈ।
ਪਰੰਪਰਾਗਤ LLM ਅਨੁਮਾਨ ਪ੍ਰੀਫਿਲ ਅਤੇ ਡੀਕੋਡ ਦੋਵੇਂ ਕਾਰਜਾਂ ਨੂੰ ਇੱਕੋ GPU ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਇਹਨਾਂ ਕਾਰਜਾਂ ਦੀਆਂ ਵੱਖ-ਵੱਖ ਕੰਪਿਊਟੇਸ਼ਨਲ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੇ ਕਾਰਨ, Dynamo ਉਹਨਾਂ ਨੂੰ ਵੱਖ ਕਰਦਾ ਹੈ, ਉਸ ਅਨੁਸਾਰ GPU ਸਰੋਤਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਅਤੇ ਕਾਰਜ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੇ ਆਧਾਰ ‘ਤੇ ਵੰਡ ਨੂੰ ਗਤੀਸ਼ੀਲ ਰੂਪ ਵਿੱਚ ਵਿਵਸਥਿਤ ਕਰਦਾ ਹੈ। ਇਹ GPU ਕਲੱਸਟਰ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਂਦਾ ਹੈ।
Nvidia ਦੀ ਜਾਂਚ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ GB200 NVL72 ‘ਤੇ 671 ਬਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਡੀਪਸੀਕ-R1 ਮਾਡਲ ਨਾਲ Dynamo ਦੀ ਵਰਤੋਂ ਕਰਨ ਨਾਲ ਅਨੁਮਾਨ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ 30 ਗੁਣਾ ਸੁਧਾਰਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਹੌਪਰ GPUs ‘ਤੇ ਚੱਲ ਰਹੇ ਲਾਮਾ 70B ‘ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਵੀ ਦੁੱਗਣੇ ਤੋਂ ਵੱਧ ਸੁਧਾਰਿਆ ਜਾ ਸਕਦਾ ਹੈ।
ਅਨੁਮਾਨ ਕੰਪਿਊਟੇਸ਼ਨ ਦੀ ਗੁੰਝਲਦਾਰ ਪ੍ਰਕਿਰਤੀ ਅਤੇ ਸਮਾਨਾਂਤਰ ਪ੍ਰੋਸੈਸਿੰਗ ਮਾਡਲਾਂ ਦੀ ਵਿਭਿੰਨਤਾ ਦੇ ਕਾਰਨ ਅਨੁਮਾਨ ਕਾਰਜਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਗੁੰਝਲਦਾਰ ਹੈ। ਹੁਆਂਗ ਨੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ Nvidia ਨੇ AI ਫੈਕਟਰੀਆਂ ਲਈ ਇੱਕ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ Dynamo ਫਰੇਮਵਰਕ ਲਾਂਚ ਕੀਤਾ ਹੈ।
ਪਰੰਪਰਾਗਤ ਡਾਟਾ ਸੈਂਟਰ ਐਂਟਰਪ੍ਰਾਈਜ਼ IT ਸਰੋਤਾਂ ‘ਤੇ ਵੱਖ-ਵੱਖ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਆਰਕੈਸਟਰੇਟ ਕਰਨ ਲਈ VMware ਵਰਗੇ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ‘ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। AI ਏਜੰਟ ਭਵਿੱਖ ਦੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਹਨ, ਅਤੇ AI ਫੈਕਟਰੀਆਂ ਨੂੰ VMware ਨਹੀਂ, Dynamo ਦੀ ਲੋੜ ਹੈ।
ਹੁਆਂਗ ਦਾ ਨਵਾਂ AI ਫੈਕਟਰੀ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਦਾ ਨਾਮ ਡਾਇਨਾਮੋ ਦੇ ਨਾਮ ‘ਤੇ ਰੱਖਣਾ, ਇੱਕ ਇੰਜਣ ਜਿਸਨੇ ਉਦਯੋਗਿਕ ਕ੍ਰਾਂਤੀ ਨੂੰ ਜਨਮ ਦਿੱਤਾ, ਪਲੇਟਫਾਰਮ ਲਈ ਉਸਦੀਆਂ ਉਮੀਦਾਂ ਅਤੇ ਇੱਛਾਵਾਂ ਨੂੰ ਪ੍ਰਗਟ ਕਰਦਾ ਹੈ।