Technology (ਗੁਰਪ੍ਰੀਤ ਸਿੰਘ) : OpenAI ਦੇ ਸੁਰੱਖਿਆ ਸਿਸਟਮ ਬਾਰੇ ਇੱਕ ਨਵਾਂ ਦਾਅਵਾ ਸਾਹਮਣੇ ਆਇਆ ਹੈ। ਤਿੰਨ ਭਾਰਤੀ ਮੂਲ ਦੇ ਨੈਤਿਕ ਹੈਕਰਾਂ ਦੀ ਇੱਕ ਟੀਮ, Hacktron, ਦਾਅਵਾ ਕਰਦੀ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਨੇ OpenAI ਕਰਮਚਾਰੀਆਂ ਦੇ ChatGPT ਖਾਤਿਆਂ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਦੋ ਮਹੱਤਵਪੂਰਨ ਸੁਰੱਖਿਆ ਬੱਗਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ ਅਤੇ, ਇਸ ਰਾਹੀਂ, ਕੰਪਨੀ ਦੇ ਅੰਦਰੂਨੀ ਭੰਡਾਰ ਤੱਕ ਸਫਲਤਾਪੂਰਵਕ ਪਹੁੰਚ ਕੀਤੀ।
Hacktron ਟੀਮ ਵਿੱਚ ਹਰਸ਼ ਜੈਸਵਾਲ, ਮੋਹਨ ਪੇਧਾਪਤੀ ਅਤੇ ਰਾਹੁਲ ਮੈਨੀ ਸ਼ਾਮਲ ਹਨ। ਟੀਮ ਦੇ ਅਨੁਸਾਰ, ਉਨ੍ਹਾਂ ਨੇ OpenAI ਦੇ ਸਿਸਟਮਾਂ ਦੀ ਸੁਰੱਖਿਆ ਜਾਂਚ ਦੌਰਾਨ ਇਹਨਾਂ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਪਤਾ ਲਗਾਇਆ। ਉਨ੍ਹਾਂ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਨੇ 25 ਜੁਲਾਈ ਨੂੰ ਇੱਕ OpenAI ਕਰਮਚਾਰੀ ਦੇ ChatGPT ਖਾਤੇ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਇਹਨਾਂ ਬੱਗਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ।
ChatGPT ਖਾਤੇ ਤੋਂ ਅੰਦਰੂਨੀ ਭੰਡਾਰ ਤੱਕ ਪਹੁੰਚ
Hacktron ਦੇ ਅਨੁਸਾਰ, ਜਿਸ ਕਰਮਚਾਰੀ ਦੇ ChatGPT ਖਾਤੇ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ ਗਈ ਸੀ, ਉਸ ਦੇ ਕੋਡੇਕ OpenAI ਦੇ GitHub ਨਾਲ ਜੁੜੇ ਹੋਏ ਸਨ। ਇਸ ਕਨੈਕਸ਼ਨ ਰਾਹੀਂ, ਟੀਮ OpenAI ਦੇ ਅੰਦਰੂਨੀ ਭੰਡਾਰ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਦੇ ਯੋਗ ਸੀ।
ਟੀਮ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਸ਼ੁਰੂਆਤੀ ਬੱਗ ਖੋਜੇ ਜਾਣ ਦੇ ਸਿਰਫ਼ 72 ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ OpenAI ਦੇ ਅੰਦਰੂਨੀ ਭੰਡਾਰ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰ ਲਈ, ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ ਹੋਰ ਕਨੈਕਟਰਾਂ ਤੱਕ ਵੀ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕੀਤੀ।
ਹੈਕਟ੍ਰੋਨ ਨੇ ਕਿਹਾ ਕਿ ਇਹਨਾਂ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਰਿਪੋਰਟ OpenAI ਨੂੰ ਕੀਤੀ ਗਈ ਸੀ। ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਕੰਪਨੀ ਨੇ ਬਾਅਦ ਵਿੱਚ ਬੱਗਾਂ ਨੂੰ ਠੀਕ ਕੀਤਾ।
ਐਂਥ੍ਰੋਪਿਕ ਦੇ AI ਏਜੰਟ ਦੀ ਵਰਤੋਂ ਕੀਤੀ
ਹੈਕਟ੍ਰੋਨ ਦੇ ਅਨੁਸਾਰ, ਉਹਨਾਂ ਦੀ ਟੀਮ ਨੇ ਐਂਥ੍ਰੋਪਿਕ ਦੇ Opus 5 AI ਮਾਡਲ ਦੇ ਜਾਰੀ ਹੋਣ ਤੋਂ ਬਾਅਦ ਇਸ ਸੁਰੱਖਿਆ ਖੋਜ ਲਈ ਇੱਕ ਸ਼ੋਸ਼ਣ ਵਿਕਸਤ ਕੀਤਾ। ਫਿਰ ਉਹਨਾਂ ਨੇ ਕਲਾਉਡ AI ਏਜੰਟ ਨੂੰ ਆਪਣੇ ਡਿਸਕੋਰਸ ਕਲਾਉਡ ਸਰਵਰ ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਆਟੋਨੋਮਸ ਸਰਕੂਲਰ ਲੂਪ ਵਿੱਚ ਚਲਾਇਆ।
ਟੀਮ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ AI ਏਜੰਟ ਨੇ ਖੋਜ ਦੌਰਾਨ ਸ਼ੋਸ਼ਣ ਸਕ੍ਰਿਪਟ ਵਿਕਸਤ ਕੀਤੀ ਅਤੇ ਇਸਨੂੰ OpenAI ਦੇ ਡਿਸਕੋਰਸ ਕਲਾਉਡ ਇੰਸਟੈਂਸ ਤੱਕ ਰਿਮੋਟ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਵਰਤਿਆ।
ਟੀਮ ਨੇ ਫਿਰ ਇੱਕ OpenAI ਕਰਮਚਾਰੀ ਦੇ ChatGPT ਖਾਤੇ ਤੱਕ ਪਹੁੰਚ ਕੀਤੀ। ਇਸ ਖਾਤੇ ਨਾਲ ਜੁੜੇ ਕੋਡੈਕਸ ਅਤੇ GitHub ਕਨੈਕਸ਼ਨਾਂ ਨੇ ਕਥਿਤ ਤੌਰ ‘ਤੇ ਉਹਨਾਂ ਨੂੰ ਕੰਪਨੀ ਦੇ ਅੰਦਰੂਨੀ ਭੰਡਾਰਾਂ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕੀਤੀ।
OpenAI ਫਿਕਸਡ ਬੱਗ, ਪ੍ਰਾਪਤ ਕੀਤਾ ਬੱਗ ਬਾਊਂਟੀ
ਹੈਕਟ੍ਰੋਨ ਦੇ ਅਨੁਸਾਰ, OpenAI ਨੇ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ ਬਾਰੇ ਸੂਚਿਤ ਕੀਤੇ ਜਾਣ ਤੋਂ ਬਾਅਦ ਉਹਨਾਂ ਨੂੰ ਠੀਕ ਕੀਤਾ। ਇਹਨਾਂ ਬੱਗਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਟੀਮ ਨੂੰ $6,500 (ਲਗਭਗ 6.24 ਲੱਖ ਰੁਪਏ) ਦੀ ਬੱਗ ਬਾਊਂਟੀ ਦੀ ਪੇਸ਼ਕਸ਼ ਵੀ ਕੀਤੀ ਗਈ ਸੀ।
ਇਹ ਘਟਨਾ ਅਜਿਹੇ ਸਮੇਂ ਸਾਹਮਣੇ ਆਈ ਹੈ ਜਦੋਂ ਏਆਈ ਕੰਪਨੀਆਂ ਆਪਣੇ ਮਾਡਲਾਂ ਅਤੇ ਏਆਈ ਏਜੰਟਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਉਨ੍ਹਾਂ ਦੀ ਸੁਰੱਖਿਆ ਦੀ ਲਗਾਤਾਰ ਖੋਜ ਕਰ ਰਹੀਆਂ ਹਨ। ਹਾਲ ਹੀ ਵਿੱਚ, ਇੱਕ ਅੰਦਰੂਨੀ ਓਪਨਏਆਈ ਮਾਡਲ ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਅਤੇ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਤੋਂ ਬਾਹਰ ਨਿਕਲਣ ਦੇ ਯੋਗ ਹੋਣ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਵੀ ਖ਼ਬਰਾਂ ਵਿੱਚ ਸਨ।
ਹਾਲਾਂਕਿ, ਹੈਕਟ੍ਰੋਨ ਦਾ ਦਾਅਵਾ ਇਸਦੀ ਟੀਮ ਦੁਆਰਾ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਰਿਪੋਰਟ ‘ਤੇ ਅਧਾਰਤ ਹੈ। ਸੁਰੱਖਿਆ ਬੱਗਾਂ ਦੇ ਪ੍ਰਭਾਵ ਅਤੇ ਸੰਬੰਧਿਤ ਪਹੁੰਚ ਦੀ ਪੂਰੀ ਹੱਦ ਨੂੰ ਸਮਝਣ ਲਈ ਓਪਨਏਆਈ ਤੋਂ ਵਿਸਤ੍ਰਿਤ ਤਕਨੀਕੀ ਜਾਣਕਾਰੀ ਮਹੱਤਵਪੂਰਨ ਹੋਵੇਗੀ।
