ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਸਮਝਣਾ: ਇੱਕ ਵਿਆਪਕ ਗਾਈਡ

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਸਮਝਣਾ: ਇੱਕ ਵਿਆਪਕ ਗਾਈਡ ਜੋ ਬੁੱਧੀਮਾਨ LLM ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਨਿਰਮਾਣ ਲਈ ਹੈ

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਨਕਲੀ ਬੁੱਧੀ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਤਬਦੀਲੀ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ ਜੋ ਕਿ ਵਿਅਕਤੀਗਤ ਪ੍ਰੋਂਪਟਾਂ ਤੋਂ ਦੂਰ ਹਟਦੀ ਹੈ ਅਤੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLMs) ਦੇ ਦੁਆਲੇ ਵਿਆਪਕ ਜਾਣਕਾਰੀ ਈਕੋਸਿਸਟਮ ਬਣਾਉਣ ਵੱਲ ਵੱਧਦੀ ਹੈ। ਜਿਵੇਂ ਕਿ AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਬੁਨਿਆਦੀ ਚੈਟਬੋਟਾਂ ਤੋਂ ਗੁੰਝਲਦਾਰ ਏਜੰਟਾਂ ਵਿੱਚ ਵਿਕਸਤ ਹੁੰਦੀਆਂ ਹਨ ਜੋ ਗੁੰਝਲਦਾਰ, ਬਹੁ-ਪੜਾਵੀ ਕਾਰਜਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹੁੰਦੀਆਂ ਹਨ, ਮਾਡਲ ਆਉਟਪੁੱਟ ਦੀ ਗੁਣਵੱਤਾ ਪ੍ਰਦਾਨ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ‘ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ। ਇਸ ਲਈ, ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਭਰੋਸੇਮੰਦ ਅਤੇ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਣਾਉਣ ਲਈ ਜ਼ਰੂਰੀ ਬਣ ਗਈ ਹੈ ਜੋ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਉਪਭੋਗਤਾ ਅਨੁਭਵ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ।

ਪ੍ਰਣਾਲੀ ਤਬਦੀਲੀ: ਪ੍ਰੋਂਪਟਾਂ ਤੋਂ ਪ੍ਰਣਾਲੀਆਂ ਵੱਲ

ਧਿਆਨ ਇੱਕ-ਇੱਕ ਪ੍ਰੋਂਪਟ ਤਿਆਰ ਕਰਨ ਤੋਂ ਬਦਲ ਕੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLMs) ਦੇ ਦੁਆਲੇ ਇੱਕ ਸੰਪੂਰਨ ਜਾਣਕਾਰੀ ਈਕੋਸਿਸਟਮ ਨੂੰ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਬਣਾਉਣ ਵੱਲ ਦਿੱਤਾ ਜਾ ਰਿਹਾ ਹੈ। ਜਿਵੇਂ ਕਿ AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਸਧਾਰਨ ਚੈਟਬੋਟਾਂ ਤੋਂ ਬੁੱਧੀਮਾਨ ਏਜੰਟਾਂ ਵਿੱਚ ਵਿਕਸਤ ਹੁੰਦੀਆਂ ਹਨ, ਜੋ ਗੁੰਝਲਦਾਰ, ਬਹੁ-ਪੜਾਵੀ ਕਾਰਜਾਂ ਨੂੰ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹੁੰਦੀਆਂ ਹਨ, ਮਾਡਲ ਆਉਟਪੁੱਟ ਦੀ ਗੁਣਵੱਤਾ ਪ੍ਰਦਾਨ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ਦੀ ਗੁਣਵੱਤਾ ‘ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ। ਉਦਯੋਗਿਕ ਆਗੂ ਅਤੇ AI ਖੋਜਕਰਤਾ ਇਸ ਤਬਦੀਲੀ ਦੀ ਮਹੱਤਤਾ ਨੂੰ ਪਛਾਣਦੇ ਹਨ, LLMs ਨੂੰ ਕਾਰਜਾਂ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਹੱਲ ਕਰਨ ਲਈ ਵਿਆਪਕ ਸੰਦਰਭ ਪ੍ਰਦਾਨ ਕਰਨ ਦੀ ਲੋੜ ‘ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ। ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਸੰਦਰਭ ਵਿੰਡੋ ਨੂੰ ਸਹੀ ਜਾਣਕਾਰੀ ਨਾਲ ਭਰਨ ਦੀ ਕਲਾ ਅਤੇ ਵਿਗਿਆਨ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ, ਜੋ ਮਾਡਲਾਂ ਨੂੰ ਸਹੀ ਫੈਸਲੇ ਲੈਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦੀ ਹੈ।

ਮੁੱਖ ਦਲੀਲ ਇਹ ਹੈ ਕਿ ਜ਼ਿਆਦਾਤਰ ਬੁੱਧੀਮਾਨ ਏਜੰਟਾਂ ਦੀ ਅਸਫਲਤਾ ਮਾਡਲ ਅਸਫਲਤਾ ਦੀ ਬਜਾਏ ਸੰਦਰਭ ਦੀ ਘਾਟ ਤੋਂ ਪੈਦਾ ਹੁੰਦੀ ਹੈ। ਇਹ ਦਾਅਵਾ AI ਇੰਜੀਨੀਅਰਿੰਗ ਦੀ ਮੁੱਖ ਚੁਣੌਤੀ ਨੂੰ ਮੁੜ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ, ਮਾਡਲ ਟਿਊਨਿੰਗ ਤੋਂ ਧਿਆਨ ਹਟਾ ਕੇ ਜਾਣਕਾਰੀ-ਸਹਾਇਕ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਵਿਕਾਸ ਵੱਲ ਲਗਾਉਂਦਾ ਹੈ। ਭਰੋਸੇਮੰਦ ਅਤੇ ਮਜ਼ਬੂਤ AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਣਾਉਣ ਲਈ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਸਮਝਣਾ ਅਤੇ ਇਸ ਵਿੱਚ ਮੁਹਾਰਤ ਹਾਸਲ ਕਰਨਾ ਇੱਕ ਪੂਰਵ-ਸ਼ਰਤ ਬਣ ਗਈ ਹੈ।

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨਾ

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਸਿਰਫ ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਇੱਕ ਉੱਨਤ ਰੂਪ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ ਵਿਲੱਖਣ, ਸਿਸਟਮ-ਪੱਧਰੀ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿਧੀ ਹੈ ਜੋ ਸਿਰਫ ਟੈਕਸਟ ਇਨਪੁਟ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਦੀ ਬਜਾਏ ਇੱਕ ਗਤੀਸ਼ੀਲ ਜਾਣਕਾਰੀ ਪ੍ਰਸਾਰਣ ਪ੍ਰਣਾਲੀ ਬਣਾਉਣ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਹੈ।

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਇੱਕ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿਧੀ ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ ਜੋ ਗਤੀਸ਼ੀਲ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਅਤੇ ਨਿਰਮਾਣ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਹੈ ਜੋ LLMs ਨੂੰ ਉਹ ਜਾਣਕਾਰੀ ਅਤੇ ਸਾਧਨ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ ਜਿਨ੍ਹਾਂ ਦੀ ਉਹਨਾਂ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ, ਸਹੀ ਫਾਰਮੈਟ ਵਿੱਚ ਅਤੇ ਸਹੀ ਸਮੇਂ ‘ਤੇ ਕਾਰਜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਮੁੱਖ ਭਾਗ:

• “ਗਤੀਸ਼ੀਲ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਅਤੇ ਨਿਰਮਾਣ ਕਰਨਾ”: ਇਹ ਇਸ ਗੱਲ ‘ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ ਕਿ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਇੱਕ ਇੰਜੀਨੀਅਰਿੰਗ ਗਤੀਵਿਧੀ ਹੈ, ਜੋ ਸਿਰਫ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਦੀ ਬਜਾਏ ਸਿਸਟਮ ਆਰਕੀਟੈਕਚਰ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਹੈ। ਸੰਦਰਭ ਇੱਕ ਪ੍ਰਣਾਲੀ ਦਾ ਆਉਟਪੁੱਟ ਹੁੰਦਾ ਹੈ ਜੋ ਮੁੱਖ LLM ਕਾਲ ਤੋਂ ਪਹਿਲਾਂ ਚੱਲਦਾ ਹੈ। ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ LLM ਦੀ ਵਰਕਿੰਗ ਮੈਮੋਰੀ ਤਿਆਰ ਕਰਨ ਲਈ ਡੇਟਾ ਪਾਈਪਲਾਈਨਾਂ, ਮੈਮੋਰੀ ਮੋਡੀਊਲ ਅਤੇ ਜਾਣਕਾਰੀ ਮੁੜ ਪ੍ਰਾਪਤ ਕਰਨ ਦੇ ਢੰਗ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
• “ਸਹੀ ਜਾਣਕਾਰੀ ਅਤੇ ਸਾਧਨ”: ਤੱਥਾਂ, ਡੇਟਾ, ਗਿਆਨ ਅਧਾਰ ਸਮੱਗਰੀ (RAG ਦੁਆਰਾ), ਅਤੇ ਉਪਭੋਗਤਾ ਤਰਜੀਹਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ। ਸਾਧਨ API ਇੰਟਰਫੇਸਾਂ, ਫੰਕਸ਼ਨਾਂ, ਜਾਂ ਡੇਟਾਬੇਸ ਪੁੱਛਗਿੱਛਾਂ ਵਰਗੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹਨ। ਗੁੰਝਲਦਾਰ ਕਾਰਜਾਂ ਲਈ ਗਿਆਨ ਅਤੇ ਸਮਰੱਥਾਵਾਂ ਦੋਵੇਂ ਪ੍ਰਦਾਨ ਕਰਨਾ ਬੁਨਿਆਦੀ ਹੈ।
• “ਸਹੀ ਫਾਰਮੈਟ, ਸਹੀ ਸਮੇਂ ‘ਤੇ”: ਜਾਣਕਾਰੀ ਪੇਸ਼ਕਾਰੀ ਅਤੇ ਸਮੇਂ ਦੀ ਮਹੱਤਤਾ ‘ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ। ਇੱਕ ਸੰਖੇਪ ਸਾਰ ਅਕਸਰ ਕੱਚੇ ਡੇਟਾ ਨਾਲੋਂ ਬਿਹਤਰ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਇੱਕ ਸਪਸ਼ਟ ਟੂਲ ਸਕੀਮਾ ਅਸਪਸ਼ਟ ਨਿਰਦੇਸ਼ਾਂ ਨਾਲੋਂ ਵਧੇਰੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੁੰਦਾ ਹੈ। ਮਾਡਲ ਨੂੰ ਬੇਲੋੜੀ ਜਾਣਕਾਰੀ ਨਾਲ ਭਟਕਾਉਣ ਤੋਂ ਬਚਣ ਲਈ ਮੰਗ ‘ਤੇ ਸੰਦਰਭ ਪ੍ਰਦਾਨ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ।
• “ਭਰੋਸੇਯੋਗਤਾ ਨਾਲ ਕੰਮ ਨੂੰ ਪੂਰਾ ਕਰਨਾ”: ਇਹ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਅੰਤਮ ਟੀਚਾ ਹੈ। ਇਹ AI ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਭਰੋਸੇਯੋਗ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਬਦਲਦਾ ਹੈ ਜੋ ਲਗਾਤਾਰ ਉੱਚ-ਗੁਣਵੱਤਾ ਵਾਲੇ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਸਟੀਕ ਸੰਦਰਭ ਪ੍ਰਬੰਧਨ ਦੇ ਨਾਲ, ਆਉਟਪੁੱਟ ਵਧੇਰੇ ਇਕਸਾਰ ਹੋ ਜਾਂਦੇ ਹਨ, ਝੂਠੀਆਂ ਗੱਲਾਂ ਘਟ ਜਾਂਦੀਆਂ ਹਨ, ਅਤੇ ਇਹ ਗੁੰਝਲਦਾਰ, ਲੰਬੇ-ਚੱਕਰ ਵਾਲੇ ਬੁੱਧੀਮਾਨ ਏਜੰਟ ਵਰਕਫਲੋਜ਼ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ।

ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਤੋਂ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਤੱਕ ਵਿਕਾਸ

ਜਦੋਂ ਕਿ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਅਤੇ ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਦੋਵਾਂ ਦਾ ਉਦੇਸ਼ LLM ਆਉਟਪੁੱਟ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣਾ ਹੈ, ਉਹ ਦਾਇਰੇ, ਸੁਭਾਅ ਅਤੇ ਟੀਚਿਆਂ ਵਿੱਚ ਵੱਖਰੇ ਹਨ। ਇੱਕ ਸਿਸਟਮ-ਪੱਧਰੀ ਤੁਲਨਾ ਇਹਨਾਂ ਅੰਤਰਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ:

• ਦਾਇਰਾ: ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਇੱਕਲਿਆਂ ਪਰਸਪਰ ਪ੍ਰਭਾਵਾਂ ਜਾਂ ਟੈਕਸਟ ਸਤਰਾਂ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਹੈ, ਜਦਕਿ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਪੂਰੇ ਜਾਣਕਾਰੀ ਈਕੋਸਿਸਟਮ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਹੈ, ਜੋ ਪੂਰੇ ਕਾਰਜ ਜੀਵਨ ਚੱਕਰ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ।
• ਗਤੀਸ਼ੀਲਤਾ: ਪ੍ਰੋਂਪਟ ਆਮ ਤੌਰ ‘ਤੇ ਸਥਿਰ ਹੁੰਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਸੰਦਰਭ ਕਾਰਜ ਦੇ ਆਧਾਰ ‘ਤੇ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਤਿਆਰ ਹੁੰਦਾ ਹੈ ਅਤੇ ਪਰਸਪਰ ਪ੍ਰਭਾਵ ਦੌਰਾਨ ਵਿਕਸਤ ਹੁੰਦਾ ਹੈ।
• ਇਨਪੁਟ ਰਚਨਾ: ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰ ਉਪਭੋਗਤਾ ਸਵਾਲਾਂ ਦੇ ਆਲੇ ਦੁਆਲੇ ਇਨਪੁਟ ਬਣਾਉਂਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰ ਉਪਭੋਗਤਾ ਸਵਾਲਾਂ ਨੂੰ ਇੱਕ ਵੱਡੇ “ਸੰਦਰਭ ਪੈਕੇਜ” ਦੇ ਸਿਰਫ ਇੱਕ ਹਿੱਸੇ ਵਜੋਂ ਦੇਖਦੇ ਹਨ ਜਿਸ ਵਿੱਚ ਸਿਸਟਮ ਨਿਰਦੇਸ਼, ਪ੍ਰਾਪਤ ਕੀਤੇ ਦਸਤਾਵੇਜ਼, ਟੂਲ ਆਉਟਪੁੱਟ ਅਤੇ ਗੱਲਬਾਤ ਦਾ ਇਤਿਹਾਸ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ।
• ਸਮਾਨਤਾ: ਜੇਕਰ ਪ੍ਰੋਂਪਟ ਇੱਕ ਨਾਟਕ ਵਿੱਚ ਇੱਕ ਸਿੰਗਲ ਲਾਈਨ ਵਾਂਗ ਹਨ, ਤਾਂ ਸੰਦਰਭ ਪੂਰੀ ਫਿਲਮ ਦਾ ਸੈੱਟ, ਪਿਛੋਕੜ ਦੀ ਕਹਾਣੀ ਅਤੇ ਸਕ੍ਰਿਪਟ ਹੈ, ਜੋ ਇਕੱਠੇ ਡੂੰਘਾਈ ਅਤੇ ਅਰਥ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।

ਹੇਠਾਂ ਦਿੱਤੀ ਸਾਰਣੀ ਦੋਵਾਂ ਦੀ ਹੋਰ ਤੁਲਨਾ ਕਰਦੀ ਹੈ:

ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਬਨਾਮ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ

AI ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਮੁੜ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨਾ

ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਤੋਂ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿੱਚ ਇਹ ਤਬਦੀਲੀ AI ਇੰਜੀਨੀਅਰਾਂ ਦੀ ਭੂਮਿਕਾ ਨੂੰ ਮੁੜ ਆਕਾਰ ਦਿੰਦੀ ਹੈ। ਪ੍ਰੋਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਇਨਪੁਟ ਸਤਰਾਂ ਨੂੰ ਸੰਪੂਰਨ ਕਰਨ ‘ਤੇ ਕੇਂਦ੍ਰਤ ਹੈ, ਜਿਸ ਲਈ ਭਾਸ਼ਾਈ ਵਿਗਿਆਨ ਅਤੇ ਤਰਕ ਵਿੱਚ ਹੁਨਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਹਾਲਾਂਕਿ, ਜਦੋਂ ਕਾਰਜ ਉਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਨਿਰਮਾਣ ਕਰਨਾ ਬਣ ਜਾਂਦਾ ਹੈ ਜੋ ਡੇਟਾਬੇਸ, API ਅਤੇ ਮੈਮੋਰੀ ਤੋਂ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਇਹਨਾਂ ਇਨਪੁਟਾਂ ਨੂੰ ਇਕੱਠਾ ਕਰਦੀਆਂ ਹਨ, ਤਾਂ ਮੁੱਖ ਹੁਨਰ ਸੌਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਅਤੇ ਸਿਸਟਮ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਤਬਦੀਲ ਹੋ ਜਾਂਦੇ ਹਨ।

LangChain ਅਤੇ LlamaIndex ਵਰਗੇ ਫਰੇਮਵਰਕ ਪ੍ਰਸਿੱਧ ਹਨ ਕਿਉਂਕਿ ਉਹ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ, ਗਤੀਸ਼ੀਲ ਸੰਦਰਭ ਅਸੈਂਬਲੀ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਨਿਰਮਾਣ ਲਈ ਆਰਕੀਟੈਕਚਰਲ ਪੈਟਰਨ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦੇ ਹਨ, ਜਿਵੇਂ ਕਿ ਚੇਨ, ਗ੍ਰਾਫ ਅਤੇ ਏਜੰਟ।

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਉਭਾਰ ਇੱਕ ਮਾਡਲ-ਕੇਂਦਰਿਤ, ਵਿਸ਼ੇਸ਼ ਖੇਤਰ ਤੋਂ ਇੱਕ ਮੁੱਖ ਧਾਰਾ ਸੌਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿਧੀ ਵਿੱਚ AI ਵਿਕਾਸ ਵਿੱਚ ਤਬਦੀਲੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਮੁੱਖ ਚੁਣੌਤੀ ਸਿਰਫ ਮਾਡਲ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਇਸਦੇ ਦੁਆਲੇ ਬਣਾਇਆ ਗਿਆ ਪੂਰਾ ਐਪਲੀਕੇਸ਼ਨ ਸਟੈਕ ਹੈ।

ਸੰਦਰਭ: ਛਾਣਬੀਣ ਅਤੇ ਸਿਧਾਂਤ

ਇਹ ਭਾਗ “ਸੰਦਰਭ” ਦੇ ਭਾਗਾਂ ਦਾ ਵੇਰਵਾ ਦਿੰਦਾ ਹੈ ਅਤੇ ਪ੍ਰਭਾਵੀ ਪ੍ਰਬੰਧਨ ਲਈ ਸਿਧਾਂਤਾਂ ਦੀ ਰੂਪਰੇਖਾ ਦਿੰਦਾ ਹੈ।

ਸੰਦਰਭ ਵਿੰਡੋ ਨੂੰ ਡੀਕੰਸਟਰਕਟ ਕਰਨਾ

ਸੰਦਰਭ ਵਿੰਡੋ ਕੁੱਲ ਜਾਣਕਾਰੀ ਹੈ ਜੋ ਮਾਡਲ ਇੱਕ ਜਵਾਬ ਤਿਆਰ ਕਰਦੇ ਸਮੇਂ “ਦੇਖ ਸਕਦਾ ਹੈ” ਜਾਂ “ਯਾਦ ਰੱਖ ਸਕਦਾ ਹੈ”। ਇੱਕ ਪੂਰਾ “ਸੰਦਰਭ ਪੈਕੇਜ” ਪ੍ਰਦਾਨ ਕੀਤੀ ਗਈ ਸਾਰੀ ਜਾਣਕਾਰੀ ਦਾ ਜੋੜ ਹੈ।

• ਨਿਰਦੇਸ਼/ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ: ਇਹ ਅਧਾਰ ਪਰਤ ਮਾਡਲ ਦੇ ਵਿਵਹਾਰ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੀ ਹੈ, ਇਸਦੀ ਭੂਮਿਕਾ, ਸ਼ੈਲੀ, ਨਿਯਮ, ਰੁਕਾਵਟਾਂ ਅਤੇ ਉਦੇਸ਼ਾਂ ਨੂੰ ਸੈੱਟ ਕਰਦੀ ਹੈ।
• ਉਪਭੋਗਤਾ ਪ੍ਰੋਂਪਟ: ਸਿੱਧਾ ਸਵਾਲ ਜਾਂ ਕਾਰਜ ਨਿਰਦੇਸ਼ ਜੋ ਬੁੱਧੀਮਾਨ ਏਜੰਟ ਨੂੰ ਚਾਲੂ ਕਰਦਾ ਹੈ।
• ਗੱਲਬਾਤ ਦਾ ਇਤਿਹਾਸ/ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ: ਪਿਛਲੇ ਆਦਾਨ-ਪ੍ਰਦਾਨ ਸਿੱਧਾ ਸੰਦਰਭ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਸੰਦਰਭ ਵਿੰਡੋ ਸੀਮਾਵਾਂ ਦੇ ਕਾਰਨ ਛਾਂਟੀ ਜਾਂ ਸੰਖੇਪੀਕਰਨ ਦੁਆਰਾ ਪ੍ਰਬੰਧਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
• ਲੰਬੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ: ਇੱਕ ਸਥਾਈ ਗਿਆਨ ਅਧਾਰ ਜੋ ਉਪਭੋਗਤਾ ਤਰਜੀਹਾਂ, ਪ੍ਰੋਜੈਕਟ ਸੰਖੇਪਾਂ, ਜਾਂ ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਯਾਦ ਰੱਖਣ ਲਈ ਦੱਸੇ ਗਏ ਤੱਥਾਂ ਵਰਗੇ ਪਰਸਪਰ ਪ੍ਰਭਾਵਾਂ ਤੋਂ ਸਿੱਖੀ ਜਾਣਕਾਰੀ ਨੂੰ ਰਿਕਾਰਡ ਕਰਦਾ ਹੈ।
• ਪ੍ਰਾਪਤ ਕੀਤੀ ਜਾਣਕਾਰੀ/RAG: ਗਿਆਨ ਕੱਟਆਫ ਨੂੰ ਦੂਰ ਕਰਨ ਅਤੇ ਤੱਥ-ਅਧਾਰਤ ਜਵਾਬਾਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ, ਸਿਸਟਮ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਬਾਹਰੀ ਗਿਆਨ ਸਰੋਤਾਂ ਤੋਂ ਸੰਬੰਧਿਤ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ।
• ਉਪਲਬਧ ਸਾਧਨ: ਕਾਲ ਕਰਨ ਯੋਗ ਫੰਕਸ਼ਨਾਂ ਜਾਂ ਬਿਲਟ-ਇਨ ਸਾਧਨਾਂ ਦੇ ਸਕੀਮਾ ਅਤੇ ਵਰਣਨ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ, ਜੋ ਮਾਡਲ ਨੂੰ ਸਿਰਫ ਜਾਣਨ ਦੀ ਬਜਾਏ ਕੰਮ ਕਰਨ ਦੀ ਸ਼ਕਤੀ ਦਿੰਦਾ ਹੈ।
• ਟੂਲ ਆਉਟਪੁੱਟ: ਟੂਲ ਕਾਲਾਂ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਬਾਅਦ ਵਿੱਚ ਤਰਕ ਅਤੇ ਕਾਰਵਾਈਆਂ ਵਿੱਚ ਵਰਤਣ ਲਈ ਮਾਡਲ ਲਈ ਸੰਦਰਭ ਵਿੱਚ ਦੁਬਾਰਾ ਪੇਸ਼ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
• ਸੰਗਠਿਤ ਆਉਟਪੁੱਟ ਸਕੀਮਾ: ਸੰਗਠਿਤ, ਅਨੁਮਾਨਿਤ ਨਤੀਜਿਆਂ ਦੀ ਅਗਵਾਈ ਕਰਨ ਲਈ ਉਮੀਦ ਕੀਤੀ ਆਉਟਪੁੱਟ ਫਾਰਮੈਟ (ਜਿਵੇਂ ਕਿ JSON ਸਕੀਮਾ) ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ।

"“LLM ਇੱਕ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ\“ ਫਰੇਮਵਰਕ

ਇਹ ਸਮਾਨਤਾ ਸੰਦਰਭ ਪ੍ਰਬੰਧਨ ਨੂੰ ਸਮਝਣ ਅਤੇ ਅਭਿਆਸ ਕਰਨ ਲਈ ਇੱਕ ਠੋਸ ਸਿਧਾਂਤਕ ਫਰੇਮਵਰਕ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ।

• LLM CPU ਵਜੋਂ, ਸੰਦਰਭ ਵਿੰਡੋ RAM ਵਜੋਂ: ਇਹ ਸਮਾਨਤਾ ਸੰਦਰਭ ਵਿੰਡੋ ਨੂੰ ਇੱਕ ਸੀਮਤ ਅਤੇ ਕੀਮਤੀ ਸਰੋਤ ਵਜੋਂ ਸਥਾਪਿਤ ਕਰਦੀ ਹੈ। ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ OS ਪ੍ਰਬੰਧਨ ਵਾਂਗ ਹੈ, ਜੋ ਸਹੀ ਸਮੇਂ ‘ਤੇ ਸਹੀ ਜਾਣਕਾਰੀ ਨੂੰ ਵਰਕਿੰਗ ਮੈਮੋਰੀ ਵਿੱਚ ਕੁਸ਼ਲਤਾ ਨਾਲ ਲੋਡ ਕਰਦੀ ਹੈ।

• ਕਰਨਲ ਸੰਦਰਭ ਬਨਾਮ ਉਪਭੋਗਤਾ ਸੰਦਰਭ: ਇਹ ਫਰੇਮਵਰਕ ਸੰਦਰਭ ਨੂੰ ਦੋ ਪਰਤਾਂ ਵਿੱਚ ਵੰਡਦਾ ਹੈ; ਕਰਨਲ ਸਪੇਸ ਅਤੇ ਉਪਭੋਗਤਾ ਸਪੇਸ ਦੇ ਸਮਾਨ।

  • ਕਰਨਲ ਸੰਦਰਭ: ਬੁੱਧੀਮਾਨ ਏਜੰਟ ਦੀ ਪ੍ਰਬੰਧਿਤ, ਵੱਖਰੀ, ਸਥਾਈ ਸਥਿਤੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਇਸ ਵਿੱਚ ਕੋਰ ਮੈਮੋਰੀ ਬਲਾਕ ਅਤੇ ਫਾਈਲ ਸਿਸਟਮ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ LLM ਦੇਖ ਸਕਦਾ ਹੈ, ਪਰ ਸਿਰਫ ਨਿਯੰਤਰਿਤ "ਸਿਸਟਮ ਕਾਲਾਂ" ਦੁਆਰਾ ਸੋਧ ਸਕਦਾ ਹੈ।
  • ਉਪਭੋਗਤਾ ਸੰਦਰਭ: "ਉਪਭੋਗਤਾ ਸਪੇਸ" ਜਾਂ ਸੁਨੇਹਾ ਬਫਰ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਜਿੱਥੇ ਗਤੀਸ਼ੀਲ ਪਰਸਪਰ ਪ੍ਰਭਾਵ ਹੁੰਦੇ ਹਨ। ਇਸ ਵਿੱਚ ਉਪਭੋਗਤਾ ਸੁਨੇਹੇ, ਸਹਾਇਕ ਜਵਾਬ ਅਤੇ ਗੈਰ-ਵਿਸ਼ੇਸ਼ "ਉਪਭੋਗਤਾ ਪ੍ਰੋਗਰਾਮ" ਸਾਧਨਾਂ ਲਈ ਕਾਲਾਂ ਸ਼ਾਮਲ ਹੁੰਦੀਆਂ ਹਨ।

• ਸਿਸਟਮ ਕਾਲਾਂ ਅਤੇ ਕਸਟਮ ਸਾਧਨ: ਇਹ ਅੰਤਰ ਸਪੱਸ਼ਟ ਕਰਦਾ ਹੈ ਕਿ ਏਜੰਟ ਆਪਣੀ ਅੰਦਰੂਨੀ ਸਥਿਤੀ ਅਤੇ ਬਾਹਰੀ ਦੁਨੀਆ ਨਾਲ ਕਿਵੇਂ ਗੱਲਬਾਤ ਕਰਦਾ ਹੈ। ਸਿਸਟਮ ਕਾਲਾਂ ਕਰਨਲ ਸੰਦਰਭ ਨੂੰ ਸੋਧਦੀਆਂ ਹਨ, ਏਜੰਟ ਦੀ ਸਥਾਈ ਸਥਿਤੀ ਨੂੰ ਬਦਲਦੀਆਂ ਹਨ, ਜਦੋਂ ਕਿ ਕਸਟਮ ਸਾਧਨ ਬਾਹਰੀ ਜਾਣਕਾਰੀ ਨੂੰ ਉਪਭੋਗਤਾ ਸੰਦਰਭ ਵਿੱਚ ਲਿਆਉਂਦੇ ਹਨ।

ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਦੇ ਮਾਰਗਦਰਸ਼ਕ ਸਿਧਾਂਤ

ਪ੍ਰਭਾਵੀ ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਭਰੋਸੇਯੋਗ ਬੁੱਧੀਮਾਨ ਏਜੰਟ ਪ੍ਰਣਾਲੀਆਂ ਬਣਾਉਣ ਲਈ ਅਭਿਆਸੀਆਂ ਤੋਂ ਲਏ ਗਏ ਮੁੱਖ ਸਿਧਾਂਤਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੀ ਹੈ।

• ਲਗਾਤਾਰ ਅਤੇ ਵਿਆਪਕ ਸੰਦਰਭ: ਇਸਨੂੰ "ਸਭ ਕੁਝ ਦੇਖੋ" ਵਜੋਂ ਵੀ ਜਾਣਿਆ ਜਾਂਦਾ ਹੈ, ਇਸ ਸਿਧਾਂਤ ਲਈ ਏਜੰਟ ਨੂੰ ਆਪਣੇ ਪੂਰੇ ਸੰਚਾਲਨ ਇਤਿਹਾਸ ਤੱਕ ਪਹੁੰਚ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਪਿਛਲੇ ਉਪਭੋਗਤਾ ਆਦਾਨ-ਪ੍ਰਦਾਨ, ਟੂਲ ਕਾਲ ਆਉਟਪੁੱਟ, ਅੰਦਰੂਨੀ ਸੋਚ ਪ੍ਰਕਿਰਿਆਵਾਂ, ਅਤੇ ਵਿਚਕਾਰਲੇ ਨਤੀਜੇ ਸ਼ਾਮਲ ਹਨ।
• ਗੈਰ-ਸੰਗਠਿਤ ਸਮਾਨਾਂਤਰਤਾ ਤੋਂ ਬਚੋ: ਸਾਂਝੇ, ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਕੀਤੇ ਸੰਦਰਭ ਤੋਂ ਬਿਨਾਂ ਕਈ ਉਪ-ਏਜੰਟਾਂ ਜਾਂ ਉਪ-ਕਾਰਜਾਂ ਨੂੰ ਸਮਾਨਾਂਤਰ ਵਿੱਚ ਕੰਮ ਕਰਨ ਦੀ ਆਗਿਆ ਦੇਣਾ ਲਗਭਗ ਅਟੱਲ ਰੂਪ ਵਿੱਚ ਆਉਟਪੁੱਟ ਅਸੰਗਤੀਆਂ, ਵਿਰੋਧੀ ਟੀਚਿਆਂ ਅਤੇ ਅਸਫਲਤਾਵਾਂ ਵੱਲ ਲੈ ਜਾਂਦਾ ਹੈ।
• ਗਤੀਸ਼ੀਲ ਅਤੇ ਵਿਕਾਸਸ਼ੀਲ ਸੰਦਰਭ: ਸੰਦਰਭ ਇੱਕ ਸਥਿਰ ਜਾਣਕਾਰੀ ਬਲਾਕ ਨਹੀਂ ਹੋਣਾ ਚਾਹੀਦਾ। ਇਸਨੂੰ ਟਾਸਕ ਦੀ ਪ੍ਰਗਤੀ ਦੇ ਆਧਾਰ ‘ਤੇ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਇਕੱਠਾ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਵਿਕਸਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ, ਰਨਟਾਈਮ ‘ਤੇ ਜਾਣਕਾਰੀ ਨੂੰ ਪ੍ਰਾਪਤ ਜਾਂ ਅੱਪਡੇਟ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
• ਪੂਰਾ ਸੰਦਰਭ ਕਵਰੇਜ: ਮਾਡਲ ਨੂੰ ਉਹ ਸਾਰੀ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ ਜਿਸਦੀ ਉਸਨੂੰ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ, ਨਾ ਕਿ ਸਿਰਫ ਨਵੀਨਤਮ ਉਪਭੋਗਤਾ ਸਵਾਲ। ਪੂਰੇ ਇੰਪੁੱਟ ਪੈਕੇਜ (ਨਿਰਦੇਸ਼, ਡੇਟਾ, ਇਤਿਹਾਸ, ਆਦਿ) ਨੂੰ ਧਿਆਨ ਨਾਲ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।

ਸੰਦਰਭ ਪ੍ਰਬੰਧਨ ਰਣਨੀਤੀਆਂ:

ਲਿਖਣਾ: ਸੰਦਰਭ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਣਾ:

ਇਸ ਵਿੱਚ ਭਵਿੱਖ ਵਿੱਚ ਵਰਤੋਂ ਲਈ ਤੁਰੰਤ ਸੰਦਰਭ ਵਿੰਡੋ ਤੋਂ ਪਰੇ ਜਾਣਕਾਰੀ ਨੂੰ ਸਟੋਰ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ, ਜੋ ਕਿ ਏਜੰਟ ਦੀਆਂ ਮੈਮੋਰੀ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ।

• ਸਕ੍ਰੈਚਪੈਡ: ਸੈਸ਼ਨ ਦੇ ਅੰਦਰ ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ ਨੂੰ ਸਟੋਰ ਕਰਨ ਲਈ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ।
• ਮੈਮੋਰੀ ਪ੍ਰਣਾਲੀਆਂ: ਸੈਸ਼ਨਾਂ ਦੌਰਾਨ ਲੰਬੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ ਬਣਾਉਣ ਲਈ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ।

ਚੋਣ ਕਰਨਾ: ਸੰਦਰਭ ਨੂੰ ਮੁੜ ਪ੍ਰਾਪਤ ਕਰਨਾ:

ਇਸ ਵਿੱਚ ਸਹੀ ਜਾਣਕਾਰੀ ਨੂੰ ਬਾਹਰੀ ਸਟੋਰੇਜ ਤੋਂ ਸਹੀ ਸਮੇਂ ‘ਤੇ ਸੰਦਰਭ ਵਿੰਡੋ ਵਿੱਚ ਖਿੱਚਣਾ ਸ਼ਾਮਲ ਹੈ।

• ਮੈਮੋਰੀ/ਸਕ੍ਰੈਚਪੈਡ ਤੋਂ ਚੋਣ ਕਰਨਾ: ਏਜੰਟ ਨੂੰ ਆਪਣੀ ਬਰਕਰਾਰ ਰੱਖੀ ਮੈਮੋਰੀ ਅਤੇ ਸਕ੍ਰੈਚਪੈਡਾਂ ਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਸਵਾਲ ਪੁੱਛਣ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜਦੋਂ ਉਸਨੂੰ ਪਿਛਲੇ ਗਿਆਨ ਨੂੰ ਯਾਦ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
• ਸਾਧਨਾਂ ਤੋਂ ਚੋਣ ਕਰਨਾ: ਜਦੋਂ ਏਜੰਟ ਕੋਲ ਬਹੁਤ ਸਾਰੇ ਉਪਲਬਧ ਸਾਧਨ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਟੂਲ ਵਰਣਨਾਂ ‘ਤੇ RAG ਤਕਨੀਕਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਕੁਸ਼ਲ ਹੁੰਦਾ ਹੈ, ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਸਿਰਫ ਮੌਜੂਦਾ ਕਾਰਜ ਦੇ ਆਧਾਰ ‘ਤੇ ਸਭ ਤੋਂ ਢੁਕਵੇਂ ਸਾਧਨਾਂ ਨੂੰ ਮੁੜ ਪ੍ਰਾਪਤ ਕਰਨਾ ਅਤੇ ਪ੍ਰਦਾਨ ਕਰਨਾ।
• ਗਿਆਨ ਤੋਂ ਚੋਣ ਕਰਨਾ: ਇਹ ਰੀਟ੍ਰੀਵਲ-ਆਗਮੈਂਟਡ ਜਨਰੇਸ਼ਨ (RAG) ਦਾ ਮੁੱਖ ਕਾਰਜ ਹੈ, ਜੋ ਮਾਡਲ ਦੀ ਜਵਾਬ ਦੇਣ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਵਧਾਉਣ ਲਈ ਬਾਹਰੀ ਗਿਆਨ ਅਧਾਰਾਂ ਤੋਂ ਤੱਥੀ ਜਾਣਕਾਰੀ ਨੂੰ ਗਤੀਸ਼ੀਲ ਤੌਰ ‘ਤੇ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ।

ਸੰਕੁਚਿਤ ਕਰਨਾ: ਸੰਦਰਭ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣਾ:

ਇਸ ਵਿੱਚ ਮੁੱਖ ਜਾਣਕਾਰੀ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਦੇ ਹੋਏ ਸੰਦਰਭ ਵਿੱਚ ਵਰਤੇ ਗਏ ਟੋਕਨਾਂ ਦੀ ਸੰਖਿਆ ਨੂੰ ਘਟਾਉਣਾ ਸ਼ਾਮਲ ਹੈ।

• ਸੰਖੇਪੀਕਰਨ: ਲੰਮੀ ਗੱਲਬਾਤ ਦੇ ਇਤਿਹਾਸ, ਦਸਤਾਵੇਜ਼ਾਂ, ਜਾਂ ਟੂਲ ਆਉਟਪੁੱਟਾਂ ਦਾ ਸਾਰ ਦੇਣ ਲਈ LLM ਦੀ ਵਰਤੋਂ ਕਰਨਾ, ਮੁੱਖ ਜਾਣਕਾਰੀ ਨੂੰ ਕੱਢਣਾ।
• ਕੱਟਣਾ: ਸੰਦਰਭ ਨੂੰ ਘਟਾਉਣ ਲਈ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ, ਜਿਵੇਂ ਕਿ ਗੱਲਬਾਤ ਦਾ ਇਤਿਹਾਸ ਬਹੁਤ ਲੰਬਾ ਹੋਣ ‘ਤੇ ਸਿਰਫ਼ ਸਭ ਤੋਂ ਪਹਿਲੇ ਡਾਇਲਾਗ ਗੇੜਾਂ ਨੂੰ ਹਟਾਉਣਾ।

ਅਲੱਗ ਕਰਨਾ: ਸੰਦਰਭ ਨੂੰ ਵੱਖ ਕਰਨਾ:

ਇਸ ਵਿੱਚ ਮਾਡਲ ਦੇ ਧਿਆਨ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਅਤੇ ਕਾਰਜ ਦੀ ਗੁੰਝਲਤਾ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ ਸੰਦਰਭ ਨੂੰ ਵੱਖ-ਵੱਖ ਹਿੱਸਿਆਂ ਵਿੱਚ ਵੰਡਣਾ ਸ਼ਾਮਲ ਹੈ।

• ਬਹੁ-ਏਜੰਟ ਪ੍ਰਣਾਲੀਆਂ: ਵੱਡੇ ਕਾਰਜਾਂ ਨੂੰ ਕਈ ਉਪ-ਏਜੰਟਾਂ ਵਿੱਚ ਵੰਡਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਹਰੇਕ ਦੇ ਆਪਣੇ ਸਮਰਪਿਤ, ਅਲੱਗ ਕੀਤੇ ਸੰਦਰਭ, ਸਾਧਨਾਂ ਅਤੇ ਨਿਰਦੇਸ਼ਾਂ ਨਾਲ।
• ਸੈਂਡਬਾਕਸਡ ਵਾਤਾਵਰਨ: ਉਹ ਓਪਰੇਸ਼ਨ ਜੋ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਟੋਕਨਾਂ ਦੀ ਖਪਤ ਕਰਦੇ ਹਨ, ਇੱਕ ਅਲੱਗ ਕੀਤੇ ਵਾਤਾਵਰਨ ਵਿੱਚ ਚਲਾਏ ਜਾ ਸਕਦੇ ਹਨ, ਸਿਰਫ ਅੰਤਮ ਮੁੱਖ ਨਤੀਜਿਆਂ ਨੂੰ ਮੁੱਖ LLM ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਵਾਪਸ ਕਰਦੇ ਹਨ।

ਉੱਨਤ ਮੈਮੋਰੀ ਆਰਕੀਟੈਕਚਰ

ਮੈਮੋਰੀ ਬੁੱਧੀਮਾਨ ਏਜੰਟ ਬਣਾਉਣ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ ਜੋ ਸਿੱਖ ਸਕਦੇ ਹਨ ਅਤੇ ਅਨੁਕੂਲ ਹੋ ਸਕਦੇ ਹਨ। ਮੁੱਖ ਭਾਗਾਂ ਵਿੱਚ ਡਾਇਲਾਗ ਇਤਿਹਾਸ ਬਫਰਾਂ ਅਤੇ ਸਕ੍ਰੈਚਪੈਡਾਂ ਦੁਆਰਾ ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ, ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ ਸ਼ਾਮਲ ਹੈ ਜੋ ਸਥਾਈਤਾ ਅਤੇ ਵਿਅਕਤੀਗਤਕਰਨ ਲਈ ਹੈ।

• ਲਾਗੂ ਕਰਨ ਦੀਆਂ ਤਕਨੀਕਾਂ:

  • ਆਟੋਮੇਟਿਡ ਮੈਮੋਰੀ ਜਨਰੇਸ਼ਨ: ਸਿਸਟਮ ਉਪਭੋਗਤਾ ਪਰਸਪਰ ਪ੍ਰਭਾਵਾਂ ਦੇ ਆਧਾਰ ‘ਤੇ ਆਪਣੇ ਆਪ ਮੈਮੋਰੀ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਸਟੋਰ ਕਰ ਸਕਦਾ ਹੈ।
  • ਪ੍ਰਤੀਬਿੰਬ ਵਿਧੀ: ਏਜੰਟ ਕਾਰਜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਤੋਂ ਬਾਅਦ ਆਪਣੇ ਵਿਵਹਾਰ ਅਤੇ ਨਤੀਜਿਆਂ ‘ਤੇ ਸਵੈ-ਪ੍ਰਤੀਬਿੰਬ ਕਰ ਸਕਦਾ ਹੈ, ਸਿੱਖੇ ਗਏ ਸਬਕਾਂ ਨੂੰ ਨਵੀਆਂ ਯਾਦਾਂ ਵਿੱਚ ਸੰਸ਼ਲੇਸ਼ਣ ਕਰ ਸਕਦਾ ਹੈ।
  • ਡਾਇਲਾਗ ਸੰਖੇਪੀਕਰਨ: ਪਿਛਲੀਆਂ ਗੱਲਬਾਤਾਂ ਨੂੰ ਨਿਯਮਿਤ ਤੌਰ ‘ਤੇ ਸੰਖੇਪ ਕਰੋ ਅਤੇ ਸੰਖੇਪਾਂ ਨੂੰ ਲੰਬੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਸਟੋਰ ਕਰੋ।

• ਸੰਗਠਿਤ ਮੈਮੋਰੀ (ਟੈਂਪੋਰਲ ਗਿਆਨ ਗ੍ਰਾਫ): ਇੱਕ ਵਧੇਰੇ ਉੱਨਤ ਮੈਮੋਰੀ ਆਰਕੀਟੈਕਚਰ ਜੋ ਨਾ ਸਿਰਫ ਤੱਥਾਂ ਨੂੰ ਸਟੋਰ ਕਰਦਾ ਹੈ ਬਲਕਿ ਤੱਥਾਂ ਅਤੇ ਜਾਣਕਾਰੀ ਦੇ ਹਰੇਕ ਟੁਕੜੇ ਲਈ ਟਾਈਮਸਟੈਂਪਾਂ ਦੇ ਵਿੱਚਕਾਰ ਸਬੰਧਾਂ ਨੂੰ ਸਟੋਰ ਕਰਦਾ ਹੈ।

ਰੀਟ੍ਰੀਵਲ-ਆਗਮੈਂਟਡ ਜਨਰੇਸ਼ਨ (RAG): ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਅਹਿਮ ਪੱਥਰ

RAG ਸੰਦਰਭ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿੱਚ ਬਾਹਰੀ ਗਿਆਨ ਨੂੰ "ਚੁਣਨ" ਲਈ ਇੱਕ ਮੁੱਖ ਤਕਨੀਕ ਹੈ, ਜੋ LLMs ਨੂੰ ਬਾਹਰੀ ਗਿਆਨ ਅਧਾਰਾਂ ਨਾਲ ਜੋੜਦੀ ਹੈ। ਇੱਕ ਆਮ RAG ਪ੍ਰਣਾਲੀ ਵਿੱਚ ਤਿੰਨ ਪੜਾਅ ਹੁੰਦੇ ਹਨ:

1. ਇੰਡੈਕਸਿੰਗ: ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਸਿਮੈਂਟਿਕ ਚੰਕਸ ਵਿੱਚ ਵੰਡਿਆ ਜਾਂਦਾ ਹੈ, ਫਿਰ ਇੱਕ ਏਮਬੈਡਿੰਗ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਉੱਚ-ਅਯਾਮੀ ਵੈਕਟਰਾਂ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਇਹ ਵੈਕਟਰ ਅਤੇ ਸਰੋਤ ਟੈਕਸਟ ਵੈਕਟਰ ਡੇਟਾਬੇਸ ਵਿੱਚ ਸਟੋਰ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।
2. ਮੁੜ ਪ੍ਰਾਪਤੀ: ਉਪਭੋਗਤਾ ਇੱਕ ਸਵਾਲ ਨੂੰ ਉਸੇ ਏਮਬੈਡਿੰਗ ਮਾਡਲ ਨਾਲ ਇੱਕ ਵੈਕਟਰ ਵਿੱਚ ਬਦਲਦਾ ਹੈ ਅਤੇ ਸਮਾਨ ਸਵਾਲਾਂ ਵਾਲੇ ਹੋਰ ਨੇੜਲੇ ਵੈਕਟਰਾਂ ਲਈ ਵੈਕਟਰ ਡੇਟਾਬੇਸ ਦੀ ਖੋਜ ਕਰਦਾ ਹੈ।
3. ਜਨਰੇਸ਼ਨ: ਸਿਸਟਮ ਮੂਲ ਸਵਾਲ ਅਤੇ ਸੰਬੰਧਿਤ ਟੈਕਸਟ ਚੰਕਸ ਨੂੰ ਇੱਕ ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਜੋੜਦਾ ਹੈ, ਫਿਰ ਇੱਕ ਢੁਕਵਾਂ ਜਵਾਬ ਤਿਆਰ ਕਰਨ ਲਈ ਇਸਨੂੰ LLM ਨੂੰ ਸੌਂਪਦਾ ਹੈ।

ਉੱਨਤ ਮੁੜ ਪ੍ਰਾਪਤੀ ਅਤੇ ਦਰਜਾਬੰਦੀ ਰਣਨੀਤੀਆਂ

ਮੂਲ RAG ਆਰਕੀਟੈਕਚਰ ਨੂੰ ਅਕਸਰ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਮੁੜ ਪ੍ਰਾਪਤੀ ਗੁਣਵੱਤਾ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਰਣਨੀਤੀਆਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਅਰਥ ਸੂਚਕ ਖੋਜ ਨੂੰ ਕੀਵਰਡ ਇੰਡੈਕਸਾਂ ਅਤੇ ਦਰਜਾਬੰਦੀ ਦੇ ਨਾਲ ਜੋੜਨਾ ਖੋਜ ਗੁਣਵੱਤਾ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਏਨਥ੍ਰੋਪਿਕਲ ਦੀ ਸੰਦਰਭੀ ਜਾਣਕਾਰੀ ਮੁੜ ਪ੍ਰਾਪਤੀ LLMs ਦੇ ਸੰਦਰਭ ਨੂੰ ਬਿਹਤਰ ਬਣਾਏਗੀ।

• ਹਾਈਬ੍ਰਿਡ ਖੋਜ: ਪੂਰਕ ਤਾਕਤਾਂ ਦਾ ਲਾਭ ਲੈਣ ਲਈ ਸਿਮੈਂਟਿਕ ਖੋਜ (ਵੈਕਟਰਾਂ ‘ਤੇ ਆਧਾਰਤ) ਅਤੇ ਕੀਵਰਡ ਖੋਜ ਨੂੰ ਜੋੜਦਾ ਹੈ।
• ਸੰਦਰਭੀ ਮੁੜ ਪ੍ਰਾਪਤੀ: ਹਰੇਕ ਟੈਕਸਟ ਬਲਾਕ ਦੇ ਸੰਦਰਭ ਦਾ ਇੱਕ ਛੋਟਾ ਸਾਰ ਤਿਆਰ ਕਰਨ ਲਈ ਇੱਕ LLM ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ।
• ਮੁੜ-ਦਰਜਾਬੰਦੀ: ਇੱਕ ਦਰਜਾਬੰਦੀ ਪੜਾਅ ਜੋੜਦਾ ਹੈ, ਨਤੀਜਿਆਂ ਨੂੰ ਸਾਰਥਕਤਾ ਦੇ ਆਧਾਰ ‘ਤੇ ਮੁੜ