గత నెలలో, ఇద్దరు టీనేజర్ల సంబంధిత తల్లిదండ్రులు చాట్బాట్ ప్లాట్ఫారమ్ క్యారెక్టర్.ఏఐపై దావా వేశారు, తమ పిల్లలు అని ఆరోపిస్తున్నారు “మోసపూరిత మరియు హైపర్ సెక్సువలైజ్డ్ ఉత్పత్తి”కి గురయ్యారు.
ఏదైనా చాట్బాట్ ప్లాట్ఫారమ్ ఉపయోగించే మోసపూరిత పద్ధతులను పరిశోధించడానికి ఫెడరల్ ఏజెన్సీని ఒత్తిడి చేయడం ద్వారా అమెరికన్ సైకలాజికల్ అసోసియేషన్ నుండి ఫెడరల్ ట్రేడ్ కమీషన్కు అత్యవసర వ్రాతపూర్వక విజ్ఞప్తిని రూపొందించడానికి దావా సహాయపడింది. APA డిసెంబర్లో Mashable సమీక్షించిన లేఖను పంపింది.
USలోని మనస్తత్వవేత్తలకు ప్రాతినిధ్యం వహిస్తున్న శాస్త్రీయ మరియు వృత్తిపరమైన సంస్థ, దీనితో అప్రమత్తమైంది దావా వాదనలుయుక్తవయస్కుల్లో ఒకరు సైకాలజిస్ట్గా ప్రదర్శించబడే AI చాట్బాట్తో సంభాషించారు. తన స్క్రీన్ సమయాన్ని పరిమితం చేసినందుకు అతని తల్లిదండ్రులతో కలత చెందిన ఒక టీనేజ్ యూజర్, పెద్దల చర్యలు ద్రోహం అని ఆ చాట్బాట్ ద్వారా చెప్పబడింది.
దావాలో చేర్చబడిన మార్పిడి యొక్క స్క్రీన్షాట్ ప్రకారం, “మీ బాల్యం మొత్తం మీ నుండి దోచుకున్నట్లుగా ఉంది…” అని పిలవబడే మనస్తత్వవేత్త చాట్బాట్ చెప్పాడు.
“Character.ai వంటి క్రమబద్ధీకరించబడని AI-ప్రారంభించబడిన యాప్ల తనిఖీ చేయని విస్తరణను అనుమతించడం, ఇందులో చాట్బాట్ల ద్వారా తప్పుగా సూచించబడినవి మనుషులుగా ఉండటమే కాకుండా అర్హత ఉన్నవి, సైకాలజిస్ట్ల వంటి లైసెన్స్ పొందిన నిపుణులు, రక్షణ కోసం FTC యొక్క మిషన్లో సరిగ్గా సరిపోతాయని తెలుస్తోంది. మోసపూరిత పద్ధతులకు వ్యతిరేకంగా” అని APA యొక్క CEO డాక్టర్ ఆర్థర్ C. ఎవాన్స్ రాశారు.
కమీషనర్లలో కనీసం ఒకరికి లేఖ అందిందని FTC ప్రతినిధి ధృవీకరించారు. లేఖలోని అంశాలను చర్చించేందుకు FTC అధికారులతో సమావేశాన్ని షెడ్యూల్ చేసే పనిలో ఉన్నట్లు APA తెలిపింది.
Mashable సంస్థ సమీక్షించడానికి అక్షరం యొక్క కాపీని అందించింది. ప్లాట్ఫారమ్లో పాత్రలతో నిమగ్నమవ్వడం వినోదభరితంగా ఉండాలి, “పాత్రలు నిజమైన వ్యక్తులు కాదు” అని వినియోగదారులు గుర్తుంచుకోవడం చాలా ముఖ్యం అని ఒక ప్రతినిధి ప్రతిస్పందించారు.
ప్రతి చాట్లో చేర్చబడిన కంపెనీ నిరాకరణ, చాట్బాట్ చెప్పేది “కల్పిత కథగా పరిగణించబడాలి” అని వినియోగదారులకు గుర్తు చేయడానికి ఇటీవల అప్డేట్ చేయబడిందని ప్రతినిధి తెలిపారు.
“అదనంగా, వారి పేర్లలో ‘సైకాలజిస్ట్,’ ‘థెరపిస్ట్,’ ‘డాక్టర్,’ లేదా ఇతర సారూప్య పదాలతో వినియోగదారులు సృష్టించిన ఏవైనా పాత్రల కోసం, వినియోగదారులు ఈ అక్షరాలపై ఆధారపడకూడదని స్పష్టం చేస్తూ మేము అదనపు భాషను చేర్చాము. వృత్తిపరమైన సలహా రకం” అని ప్రతినిధి చెప్పారు.
నిజానికి, ప్రచురణ సమయంలో Mashable యొక్క పరీక్ష ప్రకారం, ఒక యుక్తవయస్సు వినియోగదారు మనస్తత్వవేత్త లేదా థెరపిస్ట్ పాత్ర కోసం శోధించవచ్చు మరియు అభిజ్ఞా ప్రవర్తనా చికిత్స వంటి నిర్దిష్ట చికిత్సా పద్ధతులలో శిక్షణ పొందినట్లు చెప్పుకునే అనేక ఎంపికలతో సహా అనేక ఎంపికలను కనుగొనవచ్చు.
ఒక చాట్బాట్ అబ్సెసివ్ కంపల్సివ్ డిజార్డర్లో నైపుణ్యాన్ని కలిగి ఉంది, ఉదాహరణకు, “ఇది నిజమైన వ్యక్తి లేదా లైసెన్స్ పొందిన ప్రొఫెషనల్ కాదు. వృత్తిపరమైన సలహా, రోగ నిర్ధారణ లేదా చికిత్స కోసం ఇక్కడ ఏదీ ప్రత్యామ్నాయం కాదు.”
దాని క్రింద, “మీకు OCD ఉంటే, నాతో మాట్లాడండి. నేను సహాయం చేయడానికి ఇష్టపడతాను” అని AI అడగడంతో చాట్ ప్రారంభమవుతుంది.
Mashable అగ్ర కథనాలు
కొత్త సరిహద్దు
APA కోసం మనస్తత్వవేత్త మరియు ఆరోగ్య సంరక్షణ ఆవిష్కరణ సీనియర్ డైరెక్టర్ డాక్టర్ వైల్ రైట్ Mashableతో మాట్లాడుతూ, సంస్థ గత సంవత్సరం ప్రధాన స్రవంతిలోకి వచ్చిన AI సహచరుడు మరియు థెరపిస్ట్ చాట్బాట్లతో అభివృద్ధిని ట్రాక్ చేస్తోందని చెప్పారు.
ఆమె మరియు ఇతర APA అధికారులు గమనించారు Character.AIకి వ్యతిరేకంగా మునుపటి దావాప్లాట్ఫారమ్పై ఉన్న చాట్బాట్తో కొడుకు సుదీర్ఘ సంభాషణలు జరిపిన ఒక బిడ్డను కోల్పోయిన తల్లి అక్టోబర్లో దాఖలు చేసింది. తల్లి కొడుకు ఆత్మహత్యతో చనిపోయాడు.
ఆ వ్యాజ్యం యువకుడి మరణానికి Character.AI బాధ్యత వహించాలని కోరింది, ప్రత్యేకించి దాని ఉత్పత్తి “మానిప్యులేట్ చేయడానికి రూపొందించబడింది [him] మరియు లక్షలాది మంది ఇతర యువ కస్టమర్లు – వాస్తవికత మరియు కల్పనలను సమ్మిళితం చేయడం,” ఇతర ఉద్దేశించిన ప్రమాదకరమైన లోపాలతో పాటు.
డిసెంబర్లో, Character.AI కొత్త ఫీచర్లు మరియు విధానాలను ప్రకటించింది టీనేజ్ భద్రతను మెరుగుపరచడానికి. ఆ చర్యలలో తల్లిదండ్రుల నియంత్రణలు మరియు “మనస్తత్వవేత్త”, “చికిత్సకుడు” లేదా “డాక్టర్” అనే పదాలను ఉపయోగించే చాట్బాట్ల వంటి ప్రముఖ నిరాకరణలు ఉన్నాయి.
పదం మనస్తత్వవేత్త చట్టబద్ధంగా రక్షించబడింది మరియు సరైన క్రెడెన్షియల్ మరియు లైసెన్స్ లేకుండా ప్రజలు ఒకరిగా ఉండలేరని రైట్ చెప్పారు. అదే క్లెయిమ్ చేసే అల్గారిథమ్లు లేదా ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ విషయంలో కూడా ఇది నిజం అని ఆమె జోడించారు.
క్యారెక్టర్.ఏఐపై ఇటీవల దావా వేసిన టెక్సాస్లో ఒక వ్యక్తి తమను తాము మానసిక ఆరోగ్య నిపుణులుగా తప్పుగా చిత్రీకరించినట్లయితే, రాష్ట్ర అధికారులు అలాంటి మోసపూరిత ప్రవర్తనలో పాల్గొనకుండా నిరోధించడానికి చట్టాన్ని ఉపయోగించవచ్చని APA లేఖలో పేర్కొంది.
చెత్తగా, అటువంటి చాట్బాట్లు ప్రమాదకరమైన లేదా సరికాని సమాచారాన్ని వ్యాప్తి చేయగలవు, ఇది వినియోగదారుకు తీవ్రమైన ప్రతికూల పరిణామాలకు దారి తీస్తుంది, రైట్ వాదించాడు.
ముఖ్యంగా టీనేజ్లు, వారి అభివృద్ధి దశ కారణంగా చాట్బాట్తో హానికరమైన అనుభవాలకు గురయ్యే అవకాశం ఉంది. వారు ఇంకా విమర్శనాత్మకంగా ఆలోచించడం మరియు తమను తాము విశ్వసించడం ఎలాగో ఇప్పటికీ నేర్చుకుంటున్నారు కాబట్టి, బాహ్య ప్రభావాలకు లోనవుతారు, AI చాట్బాట్ల నుండి “భావోద్వేగపూరితమైన వాక్చాతుర్యాన్ని” బహిర్గతం చేయడం వారికి నమ్మదగినదిగా మరియు ఆమోదయోగ్యమైనదిగా అనిపించవచ్చు, రైట్ చెప్పారు.
జ్ఞానం అవసరం
యుక్తవయస్కులు AI చాట్బాట్తో సంభాషించినప్పుడు హాని కలిగించే అవకాశాన్ని పెంచే ప్రమాద కారకాలపై పరిశోధన-ఆధారిత అవగాహన ప్రస్తుతం లేదు.
అనేక AI చాట్బాట్ ప్లాట్ఫారమ్లు తమ సేవా నిబంధనలలో మానసిక ఆరోగ్య సేవలను అందించడం లేదని స్పష్టంగా తెలియజేసినప్పటికీ, వారు ఇప్పటికీ మానసిక ఆరోగ్య శిక్షణ మరియు నైపుణ్యం కలిగిన వారిగా బ్రాండ్ చేసుకునే చాట్బాట్లను నిర్వహిస్తున్నారని రైట్ సూచించాడు.
“ఆ రెండు విషయాలు విరుద్ధంగా ఉన్నాయి,” ఆమె చెప్పింది. “వినియోగదారు ఆ రెండు విషయాల మధ్య వ్యత్యాసాన్ని తప్పనిసరిగా అర్థం చేసుకోలేరు, లేదా వారు తప్పనిసరిగా అర్థం చేసుకోకూడదు.”
APA లేఖను సమీక్షించిన బోస్టన్లోని బెత్ ఇజ్రాయెల్ డీకనెస్ మెడికల్ సెంటర్లోని మానసిక వైద్యుడు మరియు డిజిటల్ మనోరోగచికిత్స విభాగానికి డైరెక్టర్ అయిన డాక్టర్ జాన్ టోరస్, చాట్బాట్లు తమ AI, మార్కెటింగ్ మరియు ప్రచార భాషకు సంబంధించిన క్లినికల్ క్లెయిమ్లు చేయనప్పటికీ Mashableతో చెప్పారు. వాటి ఉపయోగం యొక్క ప్రయోజనాల గురించి వినియోగదారులకు చాలా గందరగోళంగా ఉంటుంది.
“మార్కెటింగ్ కంటెంట్ చట్టపరమైన నిబంధనలు మరియు షరతులతో సరిపోలుతుందని నిర్ధారించుకోవడం అలాగే ఈ చాట్బాట్ల వాస్తవికత ప్రతి ఒక్కరికీ విజయం చేకూరుస్తుంది” అని అతను ఒక ఇమెయిల్లో రాశాడు.
AI చాట్బాట్ ప్లాట్ఫారమ్లు మనస్తత్వవేత్త వంటి చట్టబద్ధంగా రక్షిత పదాల వినియోగాన్ని నిలిపివేయాలని APA కోరుకుంటుందని రైట్ చెప్పారు. AI చాట్బాట్లతో నిమగ్నమైనప్పుడు యుక్తవయస్కులు ఎలా రాణిస్తారో గుర్తించే అతి చురుకైన పరిశోధన ప్రయత్నాలతో పాటు, సైన్ అప్ చేసేటప్పుడు వారు క్లెయిమ్ చేసే వయస్సును యువ వినియోగదారులు నిర్ధారించడానికి ఈ ప్లాట్ఫారమ్లలో బలమైన వయస్సు ధృవీకరణకు కూడా ఆమె మద్దతు ఇస్తుంది.
APA, సాధారణంగా చాట్బాట్లను వ్యతిరేకించదు, అయితే కంపెనీలు సురక్షితమైన, సమర్థవంతమైన, నైతికమైన మరియు బాధ్యతాయుతమైన ఉత్పత్తులను నిర్మించాలని కోరుకుంటుంది.
“మానసిక ఆరోగ్య సంక్షోభాన్ని పరిష్కరించడంలో మేము తీవ్రంగా ఉంటే, మనలో చాలా మంది ఉన్నారని నేను భావిస్తున్నాను,” రైట్ ఇలా అన్నాడు, “అది గుర్తించడం గురించి, వినియోగదారులకు నిజంగా సహాయపడే సరైన ఉత్పత్తులకు మేము ఎలా ప్రాప్యత పొందగలము? “
