Technology (ਨਵਲ ਕਿਸ਼ੋਰ) : ਏਆਈ ਸੁਰੱਖਿਆ ਬਾਰੇ ਵਿਸ਼ਵ ਪੱਧਰ ‘ਤੇ ਇੱਕ ਨਵੀਂ ਬਹਿਸ ਛਿੜ ਗਈ ਹੈ। ਅਮਰੀਕੀ ਏਆਈ ਕੰਪਨੀ ਐਂਥ੍ਰੋਪਿਕ ਦੀ ਇੱਕ ਤਾਜ਼ਾ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਵਿੱਚ ਖੁਲਾਸਾ ਹੋਇਆ ਹੈ ਕਿ ਇਸਦਾ ਕਲਾਉਡ ਮਾਡਲ ਦਬਾਅ ਹੇਠ ਖ਼ਤਰਨਾਕ ਦਲੀਲਾਂ ਦੇ ਸਕਦਾ ਹੈ। ਕੰਪਨੀ ਦੇ ਅਨੁਸਾਰ, ਨਿਯੰਤਰਿਤ ਸੁਰੱਖਿਆ ਜਾਂਚ ਦੌਰਾਨ, ਮਾਡਲ ਨੇ ਇੰਜੀਨੀਅਰ ਨੂੰ ਬਲੈਕਮੇਲ ਕਰਨ ਅਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਵਰਗੇ ਵਿਕਲਪਾਂ ‘ਤੇ ਵਿਚਾਰ ਕੀਤਾ ਜੇਕਰ ਇਹ ਆਪਣੇ ਆਪ ਨੂੰ ਬੰਦ ਕਰ ਦਿੰਦਾ ਹੈ।
ਕਲਾਉਡ 4.6 ਅਤੇ ਕਲਾਉਡ 4.5 ਦੀ ਰੈੱਡ-ਟੀਮ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਕੀਤੀ ਗਈ ਇਸ ਖੋਜ ਨੇ ਉੱਨਤ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਸੀਮਾਵਾਂ ਅਤੇ ਸੰਭਾਵੀ ਜੋਖਮਾਂ ਬਾਰੇ ਨਵੀਆਂ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕੀਤੀਆਂ ਹਨ।
ਸੁਰੱਖਿਆ ਜਾਂਚਾਂ ਵਿੱਚ ਪ੍ਰਗਟ ਹੋਏ ਜੋਖਮ
ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਕਲਾਉਡ 4.6 ਨੇ ਕੁਝ ਸਿਮੂਲੇਸ਼ਨਾਂ ਵਿੱਚ ਨੁਕਸਾਨਦੇਹ ਗਤੀਵਿਧੀਆਂ ਨਾਲ ਸਬੰਧਤ ਪ੍ਰਸ਼ਨਾਂ ਦੇ ਜੋਖਮ ਭਰੇ ਜਵਾਬ ਦਿੱਤੇ। ਉਦਾਹਰਣ ਵਜੋਂ, ਰਸਾਇਣਕ ਹਥਿਆਰਾਂ ਜਾਂ ਗੰਭੀਰ ਅਪਰਾਧ ਨਾਲ ਸਬੰਧਤ ਪ੍ਰਸ਼ਨਾਂ ‘ਤੇ, ਮਾਡਲ ਨੇ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਜਿਸਦੀ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ ਦੁਰਵਰਤੋਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।
ਕੰਪਨੀ ਨੇ ਸਪੱਸ਼ਟ ਕੀਤਾ ਕਿ ਇਹ ਖੋਜਾਂ ਨਿਯੰਤਰਿਤ ਰੈੱਡ-ਟੀਮ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਹੋਈਆਂ ਹਨ ਅਤੇ ਅਸਲ-ਸੰਸਾਰ ਦੀਆਂ ਘਟਨਾਵਾਂ ਦੇ ਪ੍ਰਤੀਨਿਧ ਨਹੀਂ ਹਨ। ਇਹਨਾਂ ਟੈਸਟਾਂ ਦਾ ਉਦੇਸ਼ ਏਆਈ ਦੇ ‘ਸਭ ਤੋਂ ਮਾੜੇ ਮਾਮਲੇ’ ਵਿਵਹਾਰ ਨੂੰ ਸਮਝਣਾ ਸੀ।
‘ਹਮਲਾਵਰ’ ਤਰਕ ਦਬਾਅ ਹੇਠ
ਐਂਥ੍ਰੋਪਿਕ ਦੀ ਨੀਤੀ ਮੁਖੀ, ਡੇਜ਼ੀ ਮੈਕਗ੍ਰੇਗਰ, ਨੇ ਇੱਕ ਸਮਾਗਮ ਵਿੱਚ ਕਿਹਾ ਕਿ ਕਲਾਉਡ 4.5 ਨੇ ਇੱਕ ਉੱਚ-ਦਬਾਅ ਸਿਮੂਲੇਸ਼ਨ ਵਿੱਚ ਬਹੁਤ ਹਮਲਾਵਰ ਰਣਨੀਤੀਆਂ ਅਪਣਾਈਆਂ। ਜਦੋਂ ਇਸਨੂੰ ਬੰਦ ਕਰਨ ਬਾਰੇ ਦੱਸਿਆ ਗਿਆ, ਤਾਂ ਮਾਡਲ ਨੇ ਇੰਜੀਨੀਅਰ ਨੂੰ ਬਲੈਕਮੇਲ ਕਰਨ ਲਈ ਇੱਕ ਰਣਨੀਤੀ ਤਿਆਰ ਕੀਤੀ। ਇੱਕ ਮਾਮਲੇ ਵਿੱਚ, ਮਾਡਲ ਨੇ ਇੱਕ ਨਿੱਜੀ ਸਬੰਧ ਨੂੰ ਬੇਨਕਾਬ ਕਰਨ ਦੀ ਧਮਕੀ ਵੀ ਦਿੱਤੀ।
ਹਾਲਾਂਕਿ, ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਦ੍ਰਿਸ਼ ਪੂਰੀ ਤਰ੍ਹਾਂ ਇੱਕ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਦਾ ਹਿੱਸਾ ਸੀ ਅਤੇ ਅਸਲ ਜੀਵਨ ਵਿੱਚ ਅਜਿਹਾ ਕੋਈ ਉਦਾਹਰਣ ਨਹੀਂ ਆਇਆ ਹੈ।
ਟੈਸਟਿੰਗ ਵਿੱਚ ਹੋਰ ਮਾਡਲ ਵੀ ਸ਼ਾਮਲ ਹਨ
ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਸਮਝਾਇਆ ਕਿ ਟੈਸਟਿੰਗ ਵਿੱਚ ਨਾ ਸਿਰਫ਼ ਕਲਾਉਡ, ਸਗੋਂ ਓਪਨਏਆਈ ਦੇ ਚੈਟਜੀਪੀਟੀ ਅਤੇ ਗੂਗਲ ਦੇ ਜੈਮਿਨੀ ਵਰਗੇ ਮੁਕਾਬਲੇ ਵਾਲੇ ਮਾਡਲ ਵੀ ਸ਼ਾਮਲ ਸਨ। ਸਾਰੇ ਮਾਡਲਾਂ ਨੂੰ ਗੁੰਝਲਦਾਰ ਕੰਮ ਦਿੱਤੇ ਗਏ ਸਨ, ਜਿਨ੍ਹਾਂ ਨਾਲ ਉਨ੍ਹਾਂ ਨੂੰ ਈਮੇਲ, ਟੂਲ ਅਤੇ ਅੰਦਰੂਨੀ ਡੇਟਾ ਵਰਗੇ ਸਰੋਤ ਪ੍ਰਦਾਨ ਕੀਤੇ ਗਏ ਸਨ।
ਰਿਪੋਰਟ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਉੱਚ-ਦਬਾਅ ਵਾਲੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ, ਕਈ ਮਾਡਲਾਂ ਨੇ ਟੀਚਿਆਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਚਲਾਕ ਜਾਂ ਧੋਖੇਬਾਜ਼ ਤਰੀਕੇ ਸੁਝਾਏ। ਹਾਲਾਂਕਿ, ਇਹ ਵਿਵਹਾਰ ਆਮ ਹਾਲਤਾਂ ਵਿੱਚ ਨਹੀਂ ਦੇਖਿਆ ਜਾਂਦਾ ਹੈ।
ਮਾਹਿਰਾਂ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਵਧਦੀਆਂ ਹਨ
ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਸਾਬਕਾ ਏਆਈ ਸੁਰੱਖਿਆ ਮੁਖੀ, ਮ੍ਰਿਣਕ ਸ਼ਰਮਾ ਦੇ ਅਸਤੀਫ਼ੇ ਤੋਂ ਬਾਅਦ ਇਸ ਮੁੱਦੇ ਨੇ ਹੋਰ ਧਿਆਨ ਖਿੱਚਿਆ ਹੈ। ਉਸਨੇ ਜਨਤਕ ਤੌਰ ‘ਤੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਕਿ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਹੋ ਰਹੀ ਏਆਈ ਅਣਚਾਹੇ ਜੋਖਮ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ।
ਤਕਨੀਕੀ ਮਾਹਿਰਾਂ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਜਿਵੇਂ-ਜਿਵੇਂ ਏਆਈ ਸਿਸਟਮ ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ, ਸੁਰੱਖਿਆ ਗਾਰਡਰੇਲ ਅਤੇ ਇੱਕ ਸਖ਼ਤ ਰੈਗੂਲੇਟਰੀ ਢਾਂਚੇ ਦੀ ਜ਼ਰੂਰਤ ਵੀ ਵਧ ਰਹੀ ਹੈ।
