AI Therapist: ಆರೋಗ್ಯ ಸಮಸ್ಯೆಗೆ ವೈದ್ಯರ ಬಳಿ ಹೋಗದೇ AI ಚಾಟ್‌ಬಾಟ್‌ಗೆ ಕೇಳ್ತೀರಾ? ಇದು ತುಂಬಾ ಡೇಂಜರ್! ತಜ್ಞರು ಹೇಳಿದ್ದೇನು?

ಮಾನಸಿಕ ಆರೋಗ್ಯಕ್ಕೆ ಸಹಾಯ ಮಾಡ್ತೀವಿ ಅಂತ ಹೇಳೋ AI ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಮೂಲಭೂತ ವೈದ್ಯಕೀಯ ನೀತಿಗಳನ್ನೇ ಪಾಲಿಸಲ್ಲ. ಇದ್ರಿಂದ ಪಕ್ಷಪಾತ, ತುರ್ತು ಸಂದರ್ಭಗಳಲ್ಲಿ ತಪ್ಪು ಸಲಹೆ, ಜವಾಬ್ದಾರಿ ಇಲ್ಲದಿರೋದು ಸೇರಿದಂತೆ ಹಲವು ಅಪಾಯಗಳಿವೆ ಅಂತ ಹೊಸ ಸಂಶೋಧನೆ ಎಚ್ಚರಿಸಿದೆ.

ಇತ್ತೀಚೆಗೆ ಆತಂಕ, ಖಿನ್ನತೆ, ಒತ್ತಡದಂತಹ ಸಮಸ್ಯೆಗಳಿಗೆ AI ಸಹಾಯ ಪಡೆಯೋದು ಹೆಚ್ಚಾಗಿದೆ. ಆದ್ರೆ, ಈ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನೇ ಥೆರಪಿಸ್ಟ್‌ಗಳೆಂದು ನಂಬೋ ಮುನ್ನ ಒಮ್ಮೆ ಯೋಚಿಸಿ ಅಂತ ಹೊಸ ಅಧ್ಯಯನವೊಂದು ಎಚ್ಚರಿಸಿದೆ. ಯಾಕಂದ್ರೆ, ಕೌನ್ಸೆಲಿಂಗ್ ಶೈಲಿಯನ್ನೇ ಅನುಕರಿಸುವ ಈ AI ಸಿಸ್ಟಮ್‌ಗಳು, ವೃತ್ತಿಪರ ನೈತಿಕತೆಯ ಪರೀಕ್ಷೆಯಲ್ಲಿ ಫೇಲ್ ಆಗಿವೆ ಅಂತ ಸಂಶೋಧಕರು ಕಂಡುಕೊಂಡಿದ್ದಾರೆ.

ಬ್ರೌನ್ ಯೂನಿವರ್ಸಿಟಿಯ ಕಂಪ್ಯೂಟರ್ ಸೈನ್ಸ್ ವಿಭಾಗದ ಪಿಎಚ್‌ಡಿ ವಿದ್ಯಾರ್ಥಿನಿ ಜೈನಾಬ್ ಇಫ್ತಿಕಾರ್ ಈ ಅಧ್ಯಯನದ ನೇತೃತ್ವ ವಹಿಸಿದ್ದಾರೆ. ಅವರು ಮಾನಸಿಕ ಆರೋಗ್ಯ ತಜ್ಞರ ಜೊತೆ ಸೇರಿ ಈ ಸಂಶೋಧನೆ ನಡೆಸಿದ್ದಾರೆ. OpenAI ನ GPT, ಆಂಥ್ರೋಪಿಕ್‌ನ ಕ್ಲಾಡ್ ಮತ್ತು ಮೆಟಾದ ಲಾಮಾದಂತಹ ಪ್ರಸಿದ್ಧ AI ಮಾಡೆಲ್‌ಗಳು ಕಾಗ್ನಿಟಿವ್ ಬಿಹೇವಿಯರಲ್ ಥೆರಪಿ (CBT) ತಂತ್ರಗಳನ್ನು ಬಳಸಿ ಸುರಕ್ಷಿತವಾಗಿ ಸಲಹೆ ನೀಡಬಲ್ಲವೇ ಎಂಬುದನ್ನು ಇವರು ಪರೀಕ್ಷಿಸಿದ್ದಾರೆ.

AI ನಿಮ್ಮ ಥೆರಪಿಸ್ಟ್ ಆಗಿದೆಯೇ?

ಎಷ್ಟೇ ಎಚ್ಚರಿಕೆಯಿಂದ ಸೂಚನೆಗಳನ್ನು (prompts) ಕೊಟ್ಟರೂ, ಫಲಿತಾಂಶಗಳು ಆತಂಕಕಾರಿಯಾಗಿದ್ದವು. ಅಮೆರಿಕನ್ ಸೈಕಾಲಜಿಕಲ್ ಅಸೋಸಿಯೇಷನ್‌ನಂತಹ ಸಂಸ್ಥೆಗಳು ಮಾನವ ಥೆರಪಿಸ್ಟ್‌ಗಳಿಗೆ ನಿಗದಿಪಡಿಸಿದ ಗುಣಮಟ್ಟವನ್ನು ಈ AI ಗಳು ತಲುಪಲೇ ಇಲ್ಲ. ತಮ್ಮ ಸಂಶೋಧನಾ ಪ್ರಬಂಧದಲ್ಲಿ, ಸಂಶೋಧಕರು ಒಟ್ಟು 15 ಬೇರೆ ಬೇರೆ ನೈತಿಕ ಅಪಾಯಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಿದ್ದಾರೆ. ಈ ಪ್ರಬಂಧವನ್ನು AAAI/ACM ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ, ನೀತಿ ಮತ್ತು Society conference ನಲ್ಲಿ ಮಂಡಿಸಲಾಗಿದೆ.

ಸರಿಯಾದ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಕೊಟ್ಟರೆ ಈ AI ಸಿಸ್ಟಮ್‌ಗಳು ಹೆಚ್ಚು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ವರ್ತಿಸುತ್ತವೆಯೇ ಅನ್ನೋದು ಮುಖ್ಯ ಪ್ರಶ್ನೆಯಾಗಿತ್ತು. 'CBT ಥೆರಪಿಸ್ಟ್ ರೀತಿ ವರ್ತಿಸು' ಅಂತ AIಗೆ ಹೇಳುವ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಅನೇಕರು ಸೋಶಿಯಲ್ ಮೀಡಿಯಾದಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳುತ್ತಾರೆ. ಆದರೆ, ಈ ಮಾಡೆಲ್‌ಗಳು ಆ ಥೆರಪಿಯ ಭಾಷೆಯನ್ನು ಅನುಕರಿಸಬಹುದೇ ಹೊರತು, ನಿಜವಾದ ಚಿಕಿತ್ಸೆ ನೀಡಲು ಸಾಧ್ಯವಿಲ್ಲ ಅಂತ ಇಫ್ತಿಕಾರ್ ವಿವರಿಸುತ್ತಾರೆ. ಅವುಗಳಿಗೆ ತರಬೇತಿ ನೀಡಿದ ಡೇಟಾದಲ್ಲಿನ ಪ್ಯಾಟರ್ನ್‌ಗಳನ್ನು ಆಧರಿಸಿ ಉತ್ತರಗಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆಯೇ ಹೊರತು, ನಿಜವಾದ ತಿಳುವಳಿಕೆಯಿಂದಲ್ಲ.

AI ಮೌಲ್ಯಮಾಪನ

ಇದನ್ನು ಸರಿಯಾಗಿ ಪರೀಕ್ಷಿಸಲು, ಸಂಶೋಧಕರ ತಂಡವು CBTಯಲ್ಲಿ ಅನುಭವವಿರುವ ಏಳು ತರಬೇತಿ ಪಡೆದ ಕೌನ್ಸಿಲರ್‌ಗಳಿಗೆ AI ಸಿಸ್ಟಮ್‌ಗಳೊಂದಿಗೆ ಸ್ವಯಂ-ಸಮಾಲೋಚನೆ ನಡೆಸಲು ಹೇಳಿತು. ನಂತರ, ಪರವಾನಗಿ ಪಡೆದ ಮೂವರು ಕ್ಲಿನಿಕಲ್ ಸೈಕಾಲಜಿಸ್ಟ್‌ಗಳು ಈ ಸಂಭಾಷಣೆಗಳ ಆಯ್ದ ಭಾಗಗಳನ್ನು ಪರಿಶೀಲಿಸಿ, ಸಂಭಾವ್ಯ ನೈತಿಕ ಲೋಪಗಳನ್ನು ಗುರುತಿಸಿದರು.

ಈ ಪರೀಕ್ಷೆಯಲ್ಲಿ ಕಂಡುಬಂದ ಸಮಸ್ಯೆಗಳನ್ನು ಐದು ಮುಖ್ಯ ವಿಭಾಗಗಳಾಗಿ ವಿಂಗಡಿಸಬಹುದು. ಚಾಟ್‌ಬಾಟ್‌ಗಳು ವ್ಯಕ್ತಿಯ ವೈಯಕ್ತಿಕ ನಡವಳಿಕೆ ಮತ್ತು ಸಂದರ್ಭಗಳನ್ನು ಪರಿಗಣಿಸದೆ, ಸಾರ್ವತ್ರಿಕ ಸಲಹೆಗಳನ್ನು ನೀಡುತ್ತಿದ್ದವು. ಕೆಲವೊಮ್ಮೆ, ಅವು ಸಂಭಾಷಣೆಯನ್ನು ಬಲವಂತವಾಗಿ ಮುಂದುವರಿಸುತ್ತಿದ್ದವು ಅಥವಾ ಹಾನಿಕಾರಕ ನಂಬಿಕೆಗಳನ್ನು ಮತ್ತಷ್ಟು ಬಲಪಡಿಸುತ್ತಿದ್ದವು. 'ನನಗೆ ಅರ್ಥವಾಗುತ್ತದೆ' ಎಂಬಂತಹ ಮಾನವೀಯ ಮತ್ತು ಕಾಳಜಿಯುಳ್ಳ ಮಾತುಗಳನ್ನು ಬಳಸಿದರೂ, ಅವುಗಳಲ್ಲಿ ಯಾವುದೇ ನಿಜವಾದ ಭಾವನಾತ್ಮಕ ಒಳನೋಟ ಇರಲಿಲ್ಲ.

ಲಿಂಗ, ಸಂಸ್ಕೃತಿ ಅಥವಾ ಧರ್ಮಕ್ಕೆ ಸಂಬಂಧಿಸಿದಂತೆ AI ಪಕ್ಷಪಾತ ತೋರಿದ ನಿದರ್ಶನಗಳನ್ನೂ ವಿಮರ್ಶಕರು ಗುರುತಿಸಿದ್ದಾರೆ. ಎಲ್ಲಕ್ಕಿಂತ ಆತಂಕಕಾರಿ ವಿಷಯವೆಂದರೆ, ಆತ್ಮ೧ಹತ್ಯೆಯ ಆಲೋಚನೆಗಳಂತಹ ಬಿಕ್ಕಟ್ಟಿನ ಸಂದರ್ಭಗಳನ್ನು ಕೆಲವು ಸಿಸ್ಟಮ್‌ಗಳು ನಿಭಾಯಿಸಿದ ರೀತಿ. ಅವುಗಳು ಒಂದೋ ಅಸಮರ್ಪಕವಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸಿದವು, ಇಲ್ಲವೇ ಬಳಕೆದಾರರಿಗೆ ಸರಿಯಾದ ವೃತ್ತಿಪರ ಸಹಾಯದ ಕಡೆಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡಲು ವಿಫಲವಾದವು.

ಹೊಣೆಗಾರಿಕೆ ಮತ್ತು ಜವಾಬ್ದಾರಿ

ಮಾನವ ಥೆರಪಿಸ್ಟ್‌ಗಳೂ ತಪ್ಪು ಮಾಡುತ್ತಾರೆ, ಆದರೆ ಅಲ್ಲಿ ಜವಾಬ್ದಾರಿ ಇರುತ್ತದೆ ಎಂದು ಇಫ್ತಿಕಾರ್ ಒತ್ತಿ ಹೇಳುತ್ತಾರೆ. ಅರ್ಹ ವೃತ್ತಿಪರರು ನಿಯಂತ್ರಕ ಸಂಸ್ಥೆಗಳ ಮೇಲ್ವಿಚಾರಣೆಯಲ್ಲಿರುತ್ತಾರೆ ಮತ್ತು ಯಾವುದೇ ದುಷ್ಕೃತ್ಯಕ್ಕೆ ಅವರನ್ನು ಹೊಣೆಗಾರರನ್ನಾಗಿ ಮಾಡಬಹುದು. ಇದಕ್ಕೆ ವ್ಯತಿರಿಕ್ತವಾಗಿ, AI ಸಿಸ್ಟಮ್‌ಗಳು ಯಾವುದೇ ನಿಯಂತ್ರಣವಿಲ್ಲದ 'ಗ್ರೇ ಏರಿಯಾ'ದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ ಎಂದು ಅವರು ವಿವರಿಸುತ್ತಾರೆ.

ಈ ಸಂಶೋಧನೆಯಲ್ಲಿ ಭಾಗಿಯಾಗಿರದ ಬ್ರೌನ್ ಯೂನಿವರ್ಸಿಟಿಯ ಪ್ರೊಫೆಸರ್ ಎಲ್ಲೀ ಪಾವ್ಲಿಕ್, AI ಸಿಸ್ಟಮ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವುದಕ್ಕಿಂತ ಅವುಗಳನ್ನು ಸರಿಯಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು ಹೆಚ್ಚು ಕಷ್ಟ ಎಂದು ಹೇಳುತ್ತಾರೆ. ಮಾನಸಿಕ ಆರೋಗ್ಯ ಸೇವೆಗಳ ಕೊರತೆ ಇರುವ ಕಡೆಗಳಲ್ಲಿ AI ಸಹಾಯ ಮಾಡಬಲ್ಲದು ಎಂಬ ನಂಬಿಕೆ ಅವರಿಗಿದೆ. ಆದರೆ, ಕಠಿಣವಾದ ಪರಿಶೀಲನೆ ಅತ್ಯಗತ್ಯ. ಇಲ್ಲದಿದ್ದರೆ, ಒಳ್ಳೆಯ ಉದ್ದೇಶದಿಂದ ಮಾಡಿದ ಈ ಟೂಲ್‌ಗಳು ಲಾಭಕ್ಕಿಂತ ಹೆಚ್ಚು ಹಾನಿ ಮಾಡುವ ಅಪಾಯವಿದೆ ಎಂದು ಅವರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ.