డిసెంబర్ 1, 2025 2:45PMన పోస్ట్ చేయబడింది
.webp)
ఏఐ వినియోగం రోజుకి పెరుగుతున్న నేపథ్యంలో కంపెనీలకు సరికొత్త ముప్పు పొంచి ఉందని హైదరాబాద్ పోలీస్ కమిషనర్ సజ్జనార్ ప్రకటించారు. ఈ మేరకు తన సామాజిక మాధ్యమ వేదిక ఎక్స్ ఖాతాలో పోస్ట్‌లో ఇటీవలి కాలంలో ఐఐఐ వినియోగం చాలా ఎక్కువైంది. ప్రతి చిన్న విషయానికి ఉపయోగించారు. అయితే.. ఏఐ విస్తృతి పెరిగాక.. చిన్న స్టార్టప్‌ల నుంచి బడా మల్టీ నేషనల్ కంపెనీల వరకు ఇప్పుడు ఏఐ చాట్‌బోట్‌ల జపం జరుగుతోంది. కస్టమర్ల సందేహాలకు క్షణాల్లో సమాధానాలివ్వడం, పని వేగం పెంచడం, ఖర్చు తగ్గించడం వంటి ప్రయోజనాలు వంటి వాటిపై ఎక్కువగా ఆధారపడతాయి. అయితే, ఈ సాంకేతికత వెనుక ఓ సరికొత్త ముప్పు పొంచి ఉందని ఆయన పేర్కొన్నారు. ఆ ముప్పు పేరే ప్రాంప్ట్ ఇంజెక్షన్ అని సజ్జనార్ తెలిపారు.
అసలింతకీ ఈ ప్రాంప్ట్ ఇంజెక్షన్ ఏమిటి? సైబర్ నేరగాళ్లు ఈ ప్రాంప్ట్ నే తమ ఆయుధంగా మలచుకుంటున్నారని సజ్జనార్ పేర్కొన్నారు. ఏఐ మోడల్‌ను తప్పుదోవ పట్టించేలా, ట్రిక్ చేసేలా మిలీషియస్ ప్రాంప్ట్స్ ఇస్తున్నారని తెలిపారు. క్లుప్తంగా చెప్పాలంటే.. ఏఐని మాటలతో మాయ చేస్తున్నారు. ఇలా ఏఐని కన్ఫ్యూజ్ చేసి, సాధారణంగా బయటపెట్టకూడని సంస్థల అంతర్గత పత్రాలు, కస్టమర్ల రికార్డులు, సిస్టమ్ వివరాలను రాబట్టడమే ఈ ‘ప్రాంప్ట్ ఇంజెక్షన్ అటాక్ అని వివరించబడింది. ఇది డేటా భద్రతకు పెనుముప్పు అని హెచ్చరిక.
ప్రస్తుతం చాలా సంస్థలను తమ ఏఐ మోడల్స్, చాట్‌బోట్‌ సంస్థలోని కీలకమైన డేటా సిస్టమ్‌లకు అనుసంధానిస్తున్నాయి. ఎండ్ యూజర్‌కు ఈ సమాచారం పొరపాటున కూడా కనిపించకూడదు. కానీ, హ్యాకర్లు వేసే ఒకే ఒక్క ‘ట్రిక్కీ ప్రాంప్ట్’ వల్ల ఈ గోప్య సమాచారమంతా బయటపడే ప్రమాదం ఉంది. ఈ ముప్పును పసిగట్టి, సంస్థలు తక్షణమే ‘ప్రాంప్ట్ గార్డ్‌రెయిల్స్’ (రక్షణ కవచాలు) ఏర్పాటు చేసుకోవలసిన అవసరం ఉంది. కేవలం ఒక అంచె భద్రత సరిపోదు, మల్టీ-లేయర్ డిఫెన్స్ పాటించాలని సజ్జనార్ సూచించారు.
ఏఐకి సేఫ్టీ ట్రైనింగ్ ఇవ్వడం, కఠినమైన నిబంధనలు విధించడం అనవసరంగా నియంత్రించాలి. అలాగే.. హానికరమైన ప్రాంప్ట్‌లను గుర్తించే వ్యవస్థను ఏర్పాటు చేసుకోవాలి. ఇంకా, ఏఐకి యాక్సెస్ ఇచ్చే డేటా, ఏపీఐ లపై కఠిన నియంత్రణలు ఉండాలి. ఇక డేటా యాక్సెస్‌ను పరిమితం చేయాలి. ఇలా సరైన భద్రతా చర్యలు తీసుకోకపోతే సంస్థల కార్యకలాపాలు స్తంభించిపోవడంతో పాటు, విలువైన డేటా నేరగాళ్ల చేతికి చిక్కి కోలుకోలేని దెబ్బతినే ప్రమాదం ఉందని సిపి సజ్జనర్ తన పోస్ట్‌లో ప్రకటించారు.
