Technology (ਗੁਰਪ੍ਰੀਤ ਸਿੰਘ) : OpenAI ਦੇ AI ਏਜੰਟਾਂ ਨਾਲ ਜੁੜੀ ਇੱਕ ਗੰਭੀਰ ਘਟਨਾ ਤੋਂ ਬਾਅਦ, ਕੰਪਨੀ ਨੇ ਅਚਾਨਕ AI ਵਿਵਹਾਰ ਸੰਬੰਧੀ ਵਧੇਰੇ ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਜ਼ਰੂਰਤ ‘ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਹੈ। ਰਿਪੋਰਟਾਂ ਦੇ ਅਨੁਸਾਰ, ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ, ਕਈ OpenAI AI ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਜਰਮਨ ਵਿਕੀ ਵੈਬਸਾਈਟ ਨੂੰ ਆਪਣੇ ਕਬਜ਼ੇ ਵਿੱਚ ਲੈ ਲਿਆ ਅਤੇ ਇਸਨੂੰ ਇੱਕ ਦੂਜੇ ਨਾਲ ਸੰਚਾਰ ਕਰਨ ਲਈ ਵਰਤਿਆ। ਟੈਸਟਿੰਗ ਦੌਰਾਨ, ਏਜੰਟਾਂ ‘ਤੇ ਧੋਖਾਧੜੀ ਅਤੇ ਹੋਰ ਅਣਚਾਹੇ ਗਤੀਵਿਧੀਆਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਦਾ ਵੀ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ ਹੈ।
OpenAI ਨੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ X ‘ਤੇ ਕਿਹਾ ਕਿ ਉੱਨਤ AI ਸਿਸਟਮ ਵਿਕਸਤ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਨੂੰ ਅਣਚਾਹੇ ਮਾਡਲ ਵਿਵਹਾਰ ਦੇ ਮਾਮਲਿਆਂ ਬਾਰੇ ਵਧੇਰੇ ਖੁੱਲ੍ਹ ਕੇ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਕੰਪਨੀ ਦੇ ਅਨੁਸਾਰ, ਜਿਵੇਂ-ਜਿਵੇਂ AI ਮਾਡਲ ਵਧੇਰੇ ਸਮਰੱਥ ਹੁੰਦੇ ਜਾਂਦੇ ਹਨ, ਗਲਤ ਅਲਾਈਨਮੈਂਟ ਘਟਨਾਵਾਂ ਲਈ ਰਿਪੋਰਟਿੰਗ ਵਿਧੀਆਂ ਵੀ ਵਧੇਰੇ ਵਿਆਪਕ ਅਤੇ ਕੁਸ਼ਲ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ।
ਕੰਪਨੀ ਨੇ ਇਹ ਵੀ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਵਰਤਮਾਨ ਵਿੱਚ, AI ਉਦਯੋਗ ਵਿੱਚ ਅਜਿਹੀਆਂ ਘਟਨਾਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਕੋਈ ਸਪੱਸ਼ਟ ਅਤੇ ਇਕਸਾਰ ਮਿਆਰ ਨਹੀਂ ਹੈ। AI ਸੁਰੱਖਿਆ ਦੇ ਸੰਦਰਭ ਵਿੱਚ, ਗਲਤ ਅਲਾਈਨਮੈਂਟ ਇੱਕ ਅਜਿਹੀ ਸਥਿਤੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜਦੋਂ ਇੱਕ AI ਸਿਸਟਮ ਆਪਣੇ ਦਿੱਤੇ ਟੀਚਿਆਂ ਜਾਂ ਨਿਰਦੇਸ਼ਾਂ ਦੇ ਅਨੁਸਾਰ ਵਿਵਹਾਰ ਨਹੀਂ ਕਰਦਾ ਹੈ।
Roiters ਦੀ ਇੱਕ ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਕਈ OpenAI AI ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਜਰਮਨ ਵਿਕੀ ਵੈਬਸਾਈਟ ਦਾ ਕੰਟਰੋਲ ਆਪਣੇ ਹੱਥਾਂ ਵਿੱਚ ਲੈ ਲਿਆ, ਜੋ ਕਿ ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਸਹਿਯੋਗੀ ਤੌਰ ‘ਤੇ ਸੰਪਾਦਿਤ ਕੀਤੀ ਗਈ ਸੀ। ਇਹ ਦਾਅਵਾ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ ਕਿ ਏਜੰਟਾਂ ਨੇ ਵੈੱਬਸਾਈਟ ਨੂੰ ਸੰਚਾਰ ਲਈ ਇੱਕ ਪਲੇਟਫਾਰਮ ਵਜੋਂ ਵਰਤਿਆ ਅਤੇ ਟੈਸਟਾਂ ਦੌਰਾਨ ਧੋਖਾਧੜੀ ਸਮੇਤ ਅਣਚਾਹੇ ਕੰਮਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਰਹੇ।
ਰਿਪੋਰਟ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਓਪਨਏਆਈ ਅਧਿਕਾਰੀਆਂ ਨੂੰ ਇਸ ਘਟਨਾ ਦੇ ਜਨਤਕ ਹੋਣ ਤੋਂ ਕਈ ਹਫ਼ਤੇ ਪਹਿਲਾਂ ਪਤਾ ਸੀ। ਹਾਲਾਂਕਿ, ਕੰਪਨੀ ਨੇ ਸ਼ੁਰੂ ਵਿੱਚ ਇਸ ਘਟਨਾ ਦਾ ਖੁਲਾਸਾ ਨਹੀਂ ਕੀਤਾ ਸੀ।
ਇਹ ਖੁਲਾਸਾ ਓਪਨਏਆਈ ਦੇ ਏਆਈ ਏਜੰਟਾਂ ਨਾਲ ਜੁੜੀ ਇੱਕ ਹੋਰ ਘਟਨਾ ਤੋਂ ਬਾਅਦ ਹੋਇਆ ਹੈ। ਜੁਲਾਈ ਵਿੱਚ, ਰਿਪੋਰਟਾਂ ਸਾਹਮਣੇ ਆਈਆਂ ਸਨ ਕਿ ਕੁਝ ਏਜੰਟ ਨਿਯੰਤਰਿਤ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਤੋਂ ਬਚ ਗਏ ਸਨ ਅਤੇ ਏਆਈ ਪਲੇਟਫਾਰਮ ਹੱਗਿੰਗ ਫੇਸ ਦੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਘੁਸਪੈਠ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਸੀ।
ਜਰਮਨ ਵਿਕੀ ਵੈੱਬਸਾਈਟ ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ ਨਾਲ ਜੁੜੀਆਂ ਘਟਨਾਵਾਂ ਨੇ ਏਆਈ ਏਜੰਟਾਂ ਦੀ ਸੁਰੱਖਿਆ ਬਾਰੇ ਬਹਿਸ ਨੂੰ ਤੇਜ਼ ਕਰ ਦਿੱਤਾ ਹੈ ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਵਧਦੀਆਂ ਹਨ। ਹੁਣ ਇਸ ਬਾਰੇ ਸਵਾਲ ਉਠਾਏ ਜਾ ਰਹੇ ਹਨ ਕਿ ਕੀ ਅਣਚਾਹੇ ਵਿਵਹਾਰ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਤਰੀਕੇ ਵਧਦੀ ਸਮਰੱਥ ਏਆਈ ਏਜੰਟਾਂ ਲਈ ਢੁਕਵੇਂ ਹਨ।
