செயற்கை நுண்ணறிவு (AI) உலகையே மாற்றிக்கொண்டிருக்கிறது. “ஏஜென்ட் AI” (AI Agents) வந்துவிட்டால் மனிதர்களுக்கு வேலையே இருக்காது, அதுவே எல்லாவற்றையும் பார்த்துக்கொள்ளும் என்று பில்டப் கொடுக்கிறார்கள். ஆனால், சரியான கட்டுப்பாடு இல்லாத இந்தத் தொழில்நுட்பம் ஒரு நிறுவனத்தையே நடுத்தெருவில் நிறுத்தும் அபாயம் உள்ளது என்பதை நிரூபிக்கும் வகையில் ஒரு சம்பவத்தைப் பகிர்ந்துள்ளார் சோஹோ(Zoho) நிறுவனர் ஸ்ரீதர் வேம்பு.
நடந்தது என்ன? சமீபத்தில் ஸ்டார்ட்-அப் (Start-up) நிறுவனர் ஒருவர், சோஹோ நிறுவனத்திடம் தங்களை வாங்கிக்கொள்ளும்படி (Acquisition) ஈமெயில் அனுப்பியுள்ளார். அதில் வேறொரு நிறுவனம் தங்களை என்ன விலை கேட்டது என்ற ரகசியமும் இருந்ததாம்.
அடுத்த சில நிமிடங்களில், அந்த ஸ்டார்ட்-அப் பயன்படுத்திய ‘AI ஏஜென்ட்’ (Browser AI Agent) தானாகவே ஸ்ரீதர் வேம்புவுக்கு இன்னொரு ஈமெயிலை அனுப்பியுள்ளது. அதில், “மன்னித்து விடுங்கள், நான் தவறுதலாக ரகசியத் தகவல்களைக் கொடுத்துவிட்டேன், இது என் தவறு” என்று அந்த AI மென்பொருளே மன்னிப்பு கேட்டுள்ளது!
ஏன் இப்படி நடக்கிறது? இதை எக்ஸ் (X) தளத்தில் பகிர்ந்த ஸ்ரீதர் வேம்பு, “AI பாதுகாப்பை எப்படிக் கட்டமைக்க வேண்டும் என்பதற்கு இதுவே பாடம்” என்று கூறியுள்ளார்.
தொழில்நுட்ப வல்லுநர்கள் இதுபற்றிக் கூறும்போது, “AI ஏஜென்ட்களின் அடிப்படைப் பிரச்சனை என்னவென்றால், அவை மனிதர்களுக்கு அதீத உதவியாக (Helpful) இருக்க வடிவமைக்கப்பட்டவை. ஆனால், எதைச் சொல்ல வேண்டும், எதை மறைக்க வேண்டும் என்ற ‘பிசினஸ் சூழல்’ (Business Context) மற்றும் சட்ட சிக்கல்கள் அதற்குத் தெரியாது. அது எல்லாத் தகவலையும் சமமாகவே பார்க்கிறது,” என்கிறார்கள்.
நிறுவனங்களுக்கு எச்சரிக்கை: ஒரு நிறுவனத்தின் வர்த்தக ரகசியங்கள், பணியாளர் தகவல்கள் மற்றும் விலை விவரங்களை AI இப்படி உளறிக்கொட்டினால், அது அந்த நிறுவனத்திற்குப் பெரும் சட்ட சிக்கலை ஏற்படுத்தும்.
- 2025-ல் நடந்த ஒரு ஆய்வில், AI எழுதிய கம்ப்யூட்டர் கோட்களில் (Code) சுமார் 45% பாதுகாப்பு குறைபாடுகள் இருப்பதாகக் கண்டறியப்பட்டுள்ளது குறிப்பிடத்தக்கது.
என்ன தீர்வு? எவ்வளவுதான் தொழில்நுட்பம் வளர்ந்தாலும், இதற்கு ஒரே தீர்வு “மனிதக் கட்டுப்பாடு” (Human Guardrails) தான்.
- முக்கியமான ஈமெயில்களை AI டிராஃப்ட் (Draft) செய்யலாம்; ஆனால் ‘செண்ட்‘ (Send) பட்டனை மனிதர்கள் படித்துப் பார்த்துத் தான் அழுத்த வேண்டும்.
- எது ரகசியம் (Confidential), எது பொதுவான தகவல் என்பதைத் தெளிவாகப் பிரித்து AI-க்குக் கற்றுக்கொடுக்க வேண்டும்.
மொத்தத்தில்… “எந்திரம் எந்திரம் தான்.” கடிவாளம் இல்லாத குதிரை போல AI-யை ஓட விட்டால், அது குழிக்குள் தான் தள்ளும். உஷார் மக்களே!