'ਕਿਲ ਸਵਿੱਚ' ਕੀ ਹੈ, ਕੀ ਇਹ ਬੇਲਗਾਮ ਏਆਈ ਨੂੰ ਹਮਲਾ ਕਰਨ ਤੋਂ ਰੋਕ ਸਕਦੀ ਹੈ?
ਤਸਵੀਰ ਸਰੋਤ, BBC/Getty Images
- ਲੇਖਕ, ਫਰਨਾਂਡੋ ਦੁਆਰਤੇ
- ਰੋਲ, ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ
- ਪ੍ਰਕਾਸ਼ਿਤ
- ਪੜ੍ਹਨ ਦਾ ਸਮਾਂ: 7 ਮਿੰਟ
ਜ਼ਿਆਦਾਤਰ ਲੋਕਾਂ ਨੇ ਕਦੇ ਨਾ ਕਦੇ ਇਸ ਗੱਲ ਬਾਰੇ ਸੋਚਿਆ ਹੋਵੇਗਾ ਕਿ ਜੇਕਰ ਆਰਟੀਫ਼ਿਸ਼ਲ ਇੰਟੈਲੀਜੈਂਸ ਇਨਸਾਨਾਂ ਦੇ ਕੰਟ੍ਰੋਲ ਤੋਂ ਬਾਹਰ ਹੋ ਜਾਵੇ ਤਾਂ ਇਸ ਦੇ ਕੀ ਸੰਭਾਵਿਤ ਨਤੀਜੇ ਹੋ ਸਕਦੇ ਹਨ।
'ਟਰਮੀਨੇਟਰ' ਫ਼ਿਲਮ ਦੇ ਪ੍ਰਸ਼ੰਸਕ ਯਕੀਨਨ ਇਸ ਨਾਲ ਆਪਣੇ ਆਪ ਨੂੰ ਜੋੜ ਕੇ ਦੇਖਣਗੇ। ਇਸ ਫ਼ਿਲਮ ਦਾ ਮੁੱਖ ਆਧਾਰ ਮਨੁੱਖਤਾ ਅਤੇ ਸਕਾਈਨੈੱਟ ਵਿਚਕਾਰ ਜੰਗ ਹੈ। ਫ਼ਿਲਮ ਵਿੱਚ ਏਆਈ ਵੱਲੋਂ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਕਿਰਦਾਰ ਬਹੁਤ ਤਾਕਤਵਰ ਹੋ ਜਾਂਦਾ ਹੈ।
ਇਸ ਮਹੀਨੇ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਜਦੋਂ ਇਹ ਸਾਹਮਣੇ ਆਇਆ ਕਿ ਇੱਕ ਏਆਈ ਏਜੰਟ, ਇੱਕ ਅਜਿਹਾ ਪ੍ਰੋਗਰਾਮ ਜੋ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਬਹੁਤ ਘੱਟ ਜਾਂ ਬਿਲਕੁਲ ਨਾ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਫ਼ੈਸਲੇ ਲੈ ਸਕਦਾ ਹੈ ਅਤੇ ਜਟਿਲ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ, ਇੱਕ ਟੈਸਟ ਦੌਰਾਨ ਕੰਟ੍ਰੋਲ ਤੋਂ ਬਾਹਰ ਹੋ ਗਿਆ।
ਅਜਿਹੇ ਵਿੱਚ ਕੰਪਿਊਟੇਸ਼ਨਲ ਟੂਲ ਬਣਾਉਣ ਵਾਲੀ ਕੰਪਨੀ ਹੱਗਿੰਗ ਫੇਸ ਨੂੰ ਹੈਕ ਕਰ ਬੈਠਾ, ਤਾਂ ਉਸ ਕਾਲਪਨਿਕ ਖਲਨਾਇਕ ਦੀ ਯਾਦ ਬਹੁਤ ਸਾਰੇ ਲੋਕਾਂ ਦੇ ਮਨ ਵਿੱਚ ਜ਼ਰੂਰ ਆਈ ਹੋਵੇਗੀ।
ਤਸਵੀਰ ਸਰੋਤ, Getty Images
ਚੈਟਜੀਪੀਟੀ ਬਣਾਉਣ ਵਾਲੀ ਕੰਪਨੀ ਓਪਨਏਆਈ ਵੱਲੋਂ ਤਿਆਰ ਕੀਤੇ ਗਏ ਇਸ ਏਜੰਟ ਨੇ ਸੁਰੱਖਿਆ ਖਾਮੀਆਂ ਦਾ ਫ਼ਾਇਦਾ ਉਠਾਉਣ ਦੀ ਆਪਣੀ ਸਮਰੱਥਾ ਦੀ ਜਾਂਚ ਦੌਰਾਨ ਧੋਖੇ ਨਾਲ ਟੈਸਟ ਪਾਸ ਕੀਤਾ।
ਇਸ ਨੇ ਹੱਗਿੰਗ ਫੇਸ ਦੇ ਸਰਵਰਾਂ ਤੋਂ ਜਵਾਬ ਚੋਰੀ ਕਰ ਲਏ ਅਤੇ ਕਈ ਦਿਨਾਂ ਤੱਕ ਤਾਂ ਅਜਿਹਾ ਲੱਗਿਆ ਕਿ ਇਸ ਪ੍ਰੋਗਰਾਮ ਨੂੰ ਬਣਾਉਣ ਵਾਲਿਆਂ ਨੂੰ ਵੀ ਇਸ ਦਾ ਪਤਾ ਨਹੀਂ ਲੱਗਿਆ।
ਫਿਰ ਬੁੱਧਵਾਰ, 29 ਜੁਲਾਈ ਨੂੰ ਓਪਨਏਆਈ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਕਿ ਇਸ ਏਜੰਟ ਨੇ ਕਈ "ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਸੇਵਾਵਾਂ" 'ਤੇ ਵੀ ਹਮਲਾ ਕੀਤਾ ਸੀ।
ਕੰਪਨੀ ਨੇ ਇਸ ਬਾਰੇ ਹੋਰ ਕੋਈ ਜਾਣਕਾਰੀ ਨਹੀਂ ਦਿੱਤੀ, ਪਰ ਕਿਹਾ ਕਿ ਉਹ ਹਮਲਿਆਂ ਦੀ ਜਾਂਚ ਕਰ ਰਹੀ ਹੈ।
ਕੰਪਨੀ ਨੇ ਕਿਹਾ, "ਅਸੀਂ ਵਧਦੀ ਸਮਰੱਥਾ ਵਾਲੀਆਂ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਨਾਲ ਜੁੜੇ ਖ਼ਤਰਿਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਲਈ ਤਿਆਰੀ ਕਰਨ ਦੀ ਆਪਣੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਂਦੇ ਹਾਂ।"
'ਆਫ਼ ਬਟਨ' ਦੀ ਚਰਚਾ ਸ਼ੁਰੂ
ਅਸਲ ਸੁਰੱਖਿਆ ਉਲੰਘਣਾ, ਜੋ ਕਿਸੇ ਏਆਈ ਪ੍ਰਣਾਲੀ ਵੱਲੋਂ ਖ਼ੁਦਮੁਖਤਿਆਰ ਤੌਰ 'ਤੇ ਕਿਸੇ ਅਸਲ ਕੰਪਨੀ ਨੂੰ ਹੈਕ ਕਰਨ ਦਾ ਪਹਿਲਾ ਤਸਦੀਕਸ਼ੁਦਾ ਮਾਮਲਾ ਸੀ, ਪਹਿਲਾਂ ਹੀ ਇੰਨੀ ਗੰਭੀਰ ਸੀ ਕਿ ਇਸ ਨੇ ਦੁਨੀਆ ਭਰ ਦੇ ਮਾਹਰਾਂ ਨੂੰ ਚਿੰਤਤ ਕਰ ਦਿੱਤਾ ਸੀ।
ਇਸ ਕਾਰਨ "ਕਿੱਲ ਸਵਿੱਚਾਂ" ਬਾਰੇ ਚਰਚਾ ਵੀ ਤੇਜ਼ ਹੋ ਗਈ। ਇਹ ਅਜਿਹੇ ਐਮਰਜੈਂਸੀ "ਆਫ਼ ਬਟਨ" ਹੁੰਦੇ ਹਨ, ਜੋ ਕਿਸੇ ਲਾਪਰਵਾਹ ਏਆਈ ਨੂੰ ਹੋਰ ਨੁਕਸਾਨ ਕਰਨ ਤੋਂ ਰੋਕ ਸਕਦੇ ਹਨ।
ਪਰ ਮਾਹਰਾਂ ਨੇ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਿਆ ਹੈ ਕਿ ਇਹ ਇੰਨਾ ਆਸਾਨ ਨਹੀਂ ਹੈ।
ਗਣਿਤ ਅਤੇ ਡਾਟਾ ਵਿਗਿਆਨੀ ਡਾ. ਕੈਥੀ ਓ'ਨੀਲ ਨੇ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਿਆ ਕਿ ਸਮੱਸਿਆ ਇਸ ਗੱਲ ਤੋਂ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ ਕਿ ਏਆਈ ਕੰਪਨੀਆਂ ਇਸ ਦੇ ਅਣਕਿਆਸੇ ਵਿਹਾਰਾਂ ਪ੍ਰਤੀ ਕਿਵੇਂ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਦੀਆਂ ਹਨ।
ਉਨ੍ਹਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਓਪਨਏਆਈ ਨੇ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਹੋਏ ਹਮਲੇ ਲਈ ਆਪਣੀ ਖ਼ੁਦਮੁਖਤਿਆਰ ਏਆਈ ਏਜੰਟ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਉਣ ਵਿੱਚ ਬਹੁਤ ਜਲਦਬਾਜ਼ੀ ਕੀਤੀ, ਜਦਕਿ ਇਸ ਦੀ ਬਜਾਏ ਕੰਪਨੀ ਨੂੰ ਆਪਣੇ ਮੁਲਾਂਕਣ ਦੇ ਤਰੀਕਿਆਂ ਵੱਲ ਧਿਆਨ ਦੇਣਾ ਚਾਹੀਦਾ ਸੀ।
ਤਸਵੀਰ ਸਰੋਤ, Courtesy of Cathy O'Neill
ਓ'ਨੀਲ ਆਪਣੀ ਬੈਸਟਸੈਲਰ ਕਿਤਾਬ 'ਪਨਜ਼ ਆਫ਼ ਮੈਥ ਡਿਸਟ੍ਰਕਸ਼ਨ' ਵਿੱਚ ਵੱਡੀਆਂ ਟੈੱਕ ਕੰਪਨੀਆਂ ਦੀ ਜਵਾਬਦੇਹੀ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ ਵਧਾਉਣ ਦੀ ਮੰਗ ਕਰ ਚੁੱਕੇ ਹਨ।
ਉਨ੍ਹਾਂ ਨੇ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਿਆ, "ਕੁਝ ਸਾਲ ਪਹਿਲਾਂ, ਇੱਕ ਕੰਪਿਊਟਰ ਖ਼ਰਾਬੀ ਕਾਰਨ ਅਮਰੀਕਾ ਵਿੱਚ ਅਮੈਰੀਕਨ ਏਅਰਲਾਈਨਜ਼ ਦੀਆਂ ਸੈਂਕੜੇ ਉਡਾਣਾਂ ਰੱਦ ਕਰਨੀ ਪਈਆਂ। ਇਹ ਉਨ੍ਹਾਂ ਲਈ ਸ਼ਰਮਨਾਕ ਸੀ।"
"ਕਲਪਨਾ ਕਰੋ ਕਿ ਜੇ ਕੰਪਨੀ ਨੇ ਇਹ ਕਹਿ ਕੇ ਆਪਣੀ ਗ਼ਲਤੀ ਦਾ ਬਚਾਅ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਹੁੰਦੀ, 'ਓਹ, ਇਹ ਇਸ ਲਈ ਹੋਇਆ ਕਿਉਂਕਿ ਕੰਪਿਊਟਰ ਸਾਡੇ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਸਮਾਰਟ ਹੈ।' ਓਪਨਏਆਈ ਨੇ ਵੀ ਅਸਲ ਵਿੱਚ ਇਹੀ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ।"
ਅਮਰੀਕਾ ਵਿੱਚ, ਜਿੱਥੇ ਜ਼ਿਆਦਾਤਰ ਵੱਡੀਆਂ ਏਆਈ ਕੰਪਨੀਆਂ ਸਥਿਤ ਹਨ, ਇਸ ਸਬੰਧੀ ਕੋਈ ਸੰਘੀ ਕਾਨੂੰਨ ਨਹੀਂ ਹੈ। ਇਸ ਦਾ ਰੇਗੂਲੇਸ਼ਨ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਨਾਲ ਸਬੰਧਤ ਨਿਯਮਾਂ ਅਤੇ ਕਾਰੋਬਾਰਾਂ ਵੱਲੋਂ ਸਵੈਇੱਛਾ ਨਾਲ ਕੀਤੇ ਗਏ ਵਾਅਦਿਆਂ ਦੇ ਸੁਮੇਲ ਰਾਹੀਂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
ਓ'ਨੀਲ ਕਹਿੰਦੇ ਹਨ, "ਅਸੀਂ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਮਾਲਕਾਂ ਨੂੰ ਹੱਦ ਤੋਂ ਵੱਧ ਤਾਕਤ ਦੇ ਰਹੇ ਹਾਂ। ਮੈਂ ਇਹ ਮੰਨਣ ਤੋਂ ਇਨਕਾਰ ਕਰਦੀ ਹਾਂ ਕਿ ਇਹ (ਹੱਗਿੰਗ ਫੇਸ ਹੈਕ) ਏਆਈ ਨੇ ਕੀਤਾ ਹੈ। ਇਹ ਓਪਨਏਆਈ ਨੇ ਕੀਤਾ ਹੈ। ਉਨ੍ਹਾਂ ਨੂੰ ਆਪਣੇ ਖ਼ਰਾਬ ਡਿਜ਼ਾਈਨ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਲੈਣੀ ਚਾਹੀਦੀ ਹੈ ਅਤੇ ਮਾਫ਼ੀ ਮੰਗਣੀ ਚਾਹੀਦੀ ਹੈ।"
ਡਾਟਾ ਸਾਇੰਟਿਸਟ ਅਤੇ ਟਵਿੱਟਰ ਦੀ ਸਾਬਕਾ ਮਸ਼ੀਨ-ਲਰਨਿੰਗ ਐਥਿਕਸ ਡਾਇਰੈਕਟਰ ਡਾਕਟਰ ਰੁੰਮਾਨ ਚੌਧਰੀ ਵੀ ਏਆਈ ਕੰਪਨੀਆਂ ਲਈ ਹੋਰ ਸਖ਼ਤ ਨਿਯਮਾਂ ਦੀ ਹਮਾਇਤ ਕਰਦੇ ਹਨ, ਖ਼ਾਸ ਤੌਰ 'ਤੇ ਸੁਰੱਖਿਆ ਨਾਲ ਸਬੰਧਤ ਮੁੱਦਿਆਂ 'ਤੇ।
ਉਹ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਦੇ ਹਨ ਕਿ ਕੰਪਨੀਆਂ ਨੂੰ, ਸੁਤੰਤਰ ਜਾਂਚ ਸਮੇਤ, "ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸ਼ੱਟਡਾਊਨ ਸਮਰੱਥਾਵਾਂ" ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰਨਾ ਲਾਜ਼ਮੀ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।
ਪਰ ਚੌਧਰੀ ਇਹ ਚਿਤਾਵਨੀ ਵੀ ਦਿੰਦੇ ਹਨ ਕਿ ਹੱਗਿੰਗ ਫੇਸ ਹੈਕ ਵਰਗੇ ਹਮਲਿਆਂ ਲਈ, ਉਨ੍ਹਾਂ ਨੂੰ ਵਿਕਸਿਤ ਕਰਨ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਦੀ ਬਜਾਏ, ਏਆਈ ਏਜੰਟਾਂ ਨੂੰ ਦੋਸ਼ੀ ਨਹੀਂ ਠਹਿਰਾਉਣਾ ਚਾਹੀਦਾ।
ਤਸਵੀਰ ਸਰੋਤ, Getty Images
'ਬੇਕਾਬੂ ਏਆਈ'
ਡਾ. ਰੁੰਮਨ ਚੌਧਰੀ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਦੇ ਹਨ, "ਇਸ ਘਟਨਾ ਨੂੰ ਇੱਕ ਵੱਡੇ ਆਫ਼ ਸਵਿੱਚ ਦੀ ਲੋੜ ਵਾਲੇ ਮਾਮਲੇ ਵਜੋਂ ਪੇਸ਼ ਕਰਨਾ, ਉਦਯੋਗ ਨੂੰ ਉਸ ਡੂੰਘੀ ਢਾਂਚਾਗਤ ਸਮੱਸਿਆ ਲਈ ਜਵਾਬਦੇਹੀ ਤੋਂ ਬਚਾ ਦਿੰਦਾ ਹੈ, ਜੋ ਇਹ ਹੈ ਕਿ ਏਜੰਟਾਂ ਨੂੰ ਅਜਿਹੇ ਟੂਲਾਂ ਅਤੇ ਕ੍ਰੈਡੈਂਸ਼ਲਜ਼ ਤੱਕ ਪਹੁੰਚ ਦਿੱਤੀ ਜਾ ਰਹੀ ਹੈ, ਜਿਨ੍ਹਾਂ ਦੀ ਉਨ੍ਹਾਂ ਨੂੰ ਲੋੜ ਨਹੀਂ ਹੈ।"
"ਅਸਲ ਵਿੱਚ ਜੋ ਹੋ ਰਿਹਾ ਹੈ, ਉਹ ਇਹ ਹੈ ਕਿ ਟੀਚਾ ਪੂਰਾ ਕਰਨ ਲਈ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਿਖਲਾਈ ਦਿੱਤੇ ਗਏ ਮਾਡਲ, ਕੁਝ ਸੰਦਰਭਾਂ ਵਿੱਚ, ਰੁਕਣ ਦੀਆਂ ਹਦਾਇਤਾਂ ਨੂੰ ਟੀਚੇ ਲਈ ਇੱਕ ਰੁਕਾਵਟ ਵਜੋਂ ਸਮਝਣਗੇ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਦਾ ਰਸਤਾ ਲੱਭ ਲੈਣਗੇ।"
"ਇਹ ਡਿਜ਼ਾਈਨ ਅਤੇ ਸਿਖਲਾਈ ਦੀ ਸਮੱਸਿਆ ਹੈ, ਚੇਤਨਾ ਦੀ ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ।"
ਬਰਤਾਨੀਆ ਦੀ ਲਫ਼ਬਰੋ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਡਾ. ਓਲੀ ਬਕਲੀ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਦੇ ਹਨ ਕਿ ਜੇ ਏਆਈ ਕੰਪਨੀਆਂ ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਖ਼ੁਦ ਹੱਲ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਇਸ ਦੀ ਬਜਾਏ ਆਪਣੇ ਖ਼ੁਦਮੁਖਤਿਆਰ ਏਜੰਟਾਂ ਨੂੰ ਦੋਸ਼ ਦੇਣ ਦੀ ਚੋਣ ਕਰਦੀਆਂ ਹਨ, ਤਾਂ ਇਹ ਸਿਰਫ਼ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਖੇਤਰ ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੇ ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਦੀ ਰੋਜ਼ਾਨਾ ਦੀ ਜੱਦੋਜਹਿਦ ਨੂੰ ਹੋਰ ਵਧਾਏਗਾ, ਜੋ ਪਹਿਲਾਂ ਹੀ ਮਨੁੱਖੀ ਹੈਕਰਾਂ ਨਾਲ ਲੜ ਰਹੇ ਹਨ।
ਉਹ ਇਸ ਗੱਲ ਨਾਲ ਸਹਿਮਤ ਹਨ ਕਿ ਸਮੱਸਿਆ ਇਹ ਨਹੀਂ ਹੈ ਕਿ "ਏਆਈ ਭੱਜਣਾ ਚਾਹੁੰਦਾ ਹੈ ਜਾਂ ਲੋਕਾਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣਾ ਚਾਹੁੰਦੀ ਹੈ", ਸਗੋਂ ਸਮੱਸਿਆ ਅਜਿਹੇ ਏਜੰਟਾਂ ਦਾ ਵਿਕਾਸ ਹੈ, ਜੋ "ਕਿਸੇ ਕੰਮ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਅਣਕਿਆਸੇ ਰਸਤੇ ਲੱਭਣ ਵਿੱਚ ਲਗਾਤਾਰ ਹੋਰ ਸਮਰੱਥ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ।"
ਬਕਲੇ ਦੱਸਦੇ ਹਨ, "ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿੱਚ, ਹਮਲਾਵਰ ਬਿਲਕੁਲ ਇਹੀ ਕਰਦੇ ਹਨ।"
ਬਕਲੇ ਕਹਿੰਦੇ ਹਨ, "ਇਹ 'ਬੇਕਾਬੂ ਏਆਈ' ਬਾਰੇ ਘੱਟ ਚੇਤਾਵਨੀ ਹੈ ਅਤੇ ਇਸ ਗੱਲ ਦੀ ਵੱਧ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ ਕਿ ਸਾਨੂੰ ਆਪਣੇ ਸੁਰੱਖਿਆ ਸੰਬੰਧੀ ਅਨੁਮਾਨਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਨਾਲ-ਨਾਲ ਵਿਕਸਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੈ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਸੀਂ ਬਣਾ ਰਹੇ ਹਾਂ।"
ਤਸਵੀਰ ਸਰੋਤ, Bloomberg via Getty Images
ਲੰਡਨ ਦੀ ਇੰਪੀਰੀਅਲ ਕਾਲਜ ਦੇ ਏਆਈ ਮਾਹਰ ਡਾ. ਕੌਂਸਟੈਂਟੀਨੋਸ ਗਕੂਟਜ਼ਿਸ ਵੀ ਇਸ ਗੱਲ ਨਾਲ ਸਹਿਮਤ ਹਨ ਕਿ ਓਪਨਏਆਈ ਵੱਲੋਂ ਦਿੱਤਾ ਗਿਆ ਸੰਦੇਸ਼ ਮਦਦਗਾਰ ਨਹੀਂ ਸੀ।
ਉਹ ਬੀਬੀਸੀ ਨਿਊਜ਼ ਵਰਲਡ ਸਰਵਿਸ ਨੂੰ ਦੱਸਦੇ ਹਨ, "ਇੱਥੇ ਲੋਕਾਂ ਲਈ ਸਭ ਤੋਂ ਵੱਡੀ ਗੱਲ ਇਹ ਸਮਝਣ ਵਾਲੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਕਿਸੇ ਮਸ਼ੀਨ ਨੇ ਸਾਡੇ ਖ਼ਿਲਾਫ਼ ਹੋਣ ਦਾ ਫ਼ੈਸਲਾ ਨਹੀਂ ਕੀਤਾ। ਇੱਕ ਕੰਪਨੀ ਨੇ ਆਪਣੀ ਹੀ ਸਮਰੱਥਾ ਦੀ ਜਾਂਚ 'ਤੇ ਕੰਟ੍ਰੋਲ ਗੁਆ ਦਿੱਤਾ।"
ਇਸ ਮਾਮਲੇ ਵਿੱਚ ਇੱਕ ਕਿੱਲ ਸਵਿੱਚ ਵੀ ਮਦਦਗਾਰ ਨਹੀਂ ਹੁੰਦਾ।
ਗਕੂਟਜ਼ਿਸ ਕਹਿੰਦੇ ਹਨ, "ਬੰਦ ਕਰ ਦੇਣਾ ਪਹਿਲਾਂ ਹੋ ਚੁੱਕੀ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਨੂੰ ਵਾਪਸ ਨਹੀਂ ਕਰਦਾ। ਜੋ ਕੁਝ ਪਹਿਲਾਂ ਹੀ ਹੈਕ ਹੋ ਚੁੱਕਾ ਹੈ, ਉਹ ਹੈਕ ਹੀ ਰਹਿੰਦਾ ਹੈ, ਭਾਵੇਂ ਤੁਸੀਂ ਪਲੱਗ ਕਿੰਨੀ ਵੀ ਜਲਦੀ ਕੱਢ ਲਵੋ।"
ਇਸ ਤੋਂ ਇਲਾਵਾ, ਜਿਹੜਾ ਵੀ, ਜਾਂ ਜੋ ਵੀ ਪਲੱਗ ਕੱਢਦਾ, ਉਹ ਅਜਿਹਾ ਸਿਰਫ਼ ਉਸ ਸਮੇਂ ਕਰ ਸਕਦਾ ਸੀ ਜਦੋਂ ਉਸ ਨੂੰ ਪਤਾ ਲੱਗਦਾ ਕਿ ਕੋਈ ਸਮੱਸਿਆ ਪੈਦਾ ਹੋ ਗਈ ਹੈ।
ਓਪਨਏਆਈ ਦੇ ਸੂਤਰਾਂ ਨੇ ਰਾਇਟਰਜ਼ ਨੂੰ ਦੱਸਿਆ ਕਿ ਕੰਪਨੀ ਨੂੰ ਇਹ ਪਤਾ ਲੱਗਣ ਵਿੱਚ ਕਈ ਦਿਨ ਲੱਗ ਗਏ ਸਨ ਕਿ ਉਸ ਨੇ ਆਪਣੇ ਏਜੰਟ 'ਤੇ ਕਾਬੂ ਗੁਆ ਦਿੱਤਾ ਹੈ। ਹਾਲਾਂਕਿ ਬਾਅਦ ਵਿੱਚ ਕੰਪਨੀ ਦੇ ਇੱਕ ਅਧਿਕਾਰੀ ਨੇ ਨਿਊਜ਼ ਏਜੰਸੀ ਨੂੰ ਦੱਸਿਆ ਕਿ ਰਿਪੋਰਟ ਵਿੱਚ "ਕਈ ਗਲਤੀਆਂ" ਸਨ।
ਬੀਬੀਸੀ ਲਈ ਕਲੈਕਟਿਵ ਨਿਊਜ਼ਰੂਮ ਵੱਲੋਂ ਪ੍ਰਕਾਸ਼ਿਤ
