Innovation responsable : IA et soins de santé mentale

Crédit

Conférenciers

Henry Xiao, PhD Séminaires et produits connexes

---

Henry Xiao, Ph. D., est directeur adjoint des opérations aux services de counseling et de psychologie (CAPS) de Penn State, où il fusionne l’expertise clinique et l’innovation technologique pour améliorer les soins de santé mentale pour les étudiants. Henry est un psychologue clinicien agréé et a mené des recherches approfondies sur les processus et les résultats de la psychothérapie. Depuis plus d’une décennie, il intègre la prise de décision basée sur les données dans les systèmes de counseling collégial grâce à sa formation supérieure à l’Université Penn State parallèlement à son travail avec le Center for Collegiate Mental Health. Dans son rôle actuel à l’ACSM, il supervise la mise en œuvre de la technologie et de la sécurité des données, travaille en étroite collaboration avec l’équipe des TI de l’Université pour planifier et mettre en œuvre les changements technologiques, et entretient un lien étroit avec le CCSM, qui agit maintenant à titre de conseiller en recherche, veillant à ce que les services de santé mentale de l’ACSP demeurent à la fois efficaces et à jour. Sa passion pour la technologie combine un intérêt professionnel et personnel.

 

Conférenciers Divulgations :
Finances : Henry Xiao entretient une relation d’emploi avec la Pennsylvania State University. Il reçoit un honoraire pour la conférence et des droits d’enregistrement de la part de PESI, Inc. Il n’a aucune relation financière pertinente avec des organisations non admissibles.
Non financier : Henry Xiao est un évaluateur ad hoc chez Cogent Mental Health and Psychotherapy Research.

Informations complémentaires

Informations sur le programme

L'accès à ce produit n'expire jamais.

Consultez notre page FAQ à l'adresse https://www.pesicanada.ca/faq ou contactez-nous à l'adresse https://www.pesicanada.ca/contact-us.

Objectifs

1. Identifiez les principales questions éthiques et considérations liées à l’utilisation personnelle et professionnelle de l’IA.
2. Résumez comment l’IA fonctionne et est actuellement utilisée dans le domaine de la santé mentale.
    

Plan de cours

Justification - Pourquoi cette discussion et à quoi s’attendre

• Avertissement; Conférenciers n’est pas un ingénieur ou programmeur en IA, et il n’est ni payé/commandité par une entreprise d’IA
• Toutes les démos en présentation créées à l’aide de la version gratuite des sites web cités
• ConférenciersLes identités qui informent la conférence (Pope explore aussi l’IA, ce qui indique une importance internationale/mondiale)
• Des questions Zoom pour évaluer la familiarité de l’audience avec l’IA; environ 1 à 2 minutes chacun, les résultats seront partagés en direct
• Discussion sur certaines croyances éclairées à propos de l’IA que l’utilisateur partage, basée sur des recherches et des explorations professionnelles/personnelles (pour donner le contexte à la présentation)
• Objectifs d’apprentissage 

Statistiques d’utilisation – qui utilise l’IA et pourquoi est-ce important?
Note supplémentaire sur les sources : chaque utilisation de l’outil est citée et datée, et la bibliographie en général contient un mélange de recherches empiriques et d’articles/sources plus récents

  La majorité du monde dans les sondages utilise maintenant des sondages hebdomadaires

• L’utilisation réelle est probablement différente à cause de la nature qui change rapidement
• Les personnes plus jeunes consomment plus fréquemment
• Exemple d’utilisation de ChatGPT et rapidité d’adoption
• Qui utilise la géopolitique internationale et l’importance de l’IA

Introduction à l’IA – Qu’est-ce que l’IA, comment fonctionne-t-elle?

• Présentez et parlez de l’IA > de l’IA générative > des grands modèles de langage
• Les grands modèles de langage introduits comme focus principal et phénomène public
• Comment fonctionnent les LLM? Accent mis sur la prédiction de motifs sans véritable « compréhension » de la vérité versus la fiction
• Analogie du bébé et de l’IA générative – de façon générale, aucun des deux ne « comprend » vraiment pourquoi ils font ce qu’ils font, mais ils réagissent quand même avec précision 
• Exemples de LLM couramment utilisés; identifier ChatGPT, Claude, Gemini, DeepSeek et Perplexity 

Éthique et considérations – quelles sont les préoccupations actuelles concernant l’IA dans tous les secteurs?

• Sortie de DeepSeek en janvier 2025 : démontrer la « chaîne de pensée » et dévoiler la « boîte noire » de façon accessible
• Censure Deepseek TianAnMen Square et pouvoir de posséder une entreprise pour déterminer l’alignement avec les valeurs/sécurité
• La sortie de DeepSeek est un bon exemple de multiples considérations éthiques, incluant la géopolitique et l’économie, la censure et les garde-fous, ainsi que l’utilisation massive du public
• Ordre du jour pour les catégories de considérations éthiques – beaucoup à en discuter, j’espère qu’il y aura un peu de réflexion autour de ces domaines, pas assez de temps pour explorer pleinement chacun
  • GIGO et biais
    • La sortie LLM/GenAI dépend entièrement des données sur lesquelles elle est entraînée
    • Exemple d’impact sur les non-anglophones, et aussi exemple d’horloges bloquées à 10:10
• Confidentialité, responsabilité et sécurité des données
  • Au-delà de la valeur géopolitique, le vol d’identité est une raison très forte de ne pas placer de données sensibles dans un LLM public
  • Les dossiers de soins de santé (données au niveau HIPAA) restent particulièrement précieux
  • Les conseils d’éthique se développent pour permettre une utilisation responsable de l’IA, comme exemple l’American Psychological Association
  • Organisations internationales (conférence des Nations Unies)
  • Hypothèse de la Reine Rouge – la technologie progresse rapidement, donc « rester immobile » n’est pas une option viable
• Coûts écologiques et énergétiques
  • Entretien électrique, entraînement élevé et coûts d’inférence
  • Une partie de l’avance consiste aussi à diminuer les coûts en augmentant l’efficacité, mais en répartissant les coûts de façon inégale
  • Droits de la personne et éthique – RLHF au Kenya
• L’humanité : la pensée critique
  • L’enseignement supérieur et l’éducation en général – Impacts du LLM
  • Exemple de la complexité avec laquelle un LLM peut répondre à une question
  • Les LLM rendent la « connaissance » plus accessible sans nécessairement exiger de « sagesse »
  • Étude auto-rapport de Microsoft sur l’utilisation des LLM et la pensée critique
  • Petit exemple d’impact quotidien; Aperçu de l’IA de Google
• Humanité : Connexion sociale
  • Exemple de conversation vocale avec l’IA
  • Étude des forums publics (c.-à-d. Reddit/Quora) et de la façon dont les utilisateurs utilisent les LLM pour la compagnie
  • Plus d’informations dans la section Santé mentale
• Humanité : Créativité/Art
  • Exemple de musique (si le temps)
  • Exemple de vidéo
  • Haïku; écrit personnellement; mais maintenant impossible à prouver
  • Discussion sur ce qui constitue « l’art » tel qu’il est défini comme une qualité humaine
  • Résumé des résultats de recherche liés à la préférence humaine    
• Soins de santé mentale
  • Utilisations actuelles; aucun LLM gratuit n’offre de sécurité HIPAA; Il faudrait payer pour une sécurité adéquate
  • Des chatbots pour la thérapie; Avantages et inconvénients, incluant des études et des commentaires anecdotiques sur Reddit
  • Utilisation parasociale, y compris des poursuites contre Character.AI et Google
  • Données CCMH – augmentation de l’anxiété sociale, de l’anxiété et du rôle de l’évitement
  • Discussion sur l’étude du singe de Harlowe et comment l’IA pourrait être subjectivement le « singe en tissu » pour les individus dans des situations difficiles
  • Comment continuer à discuter de la tolérance à la détresse?

Exemples :

• Grandes catégories d’utilisation, telles que définies par une étude de Microsoft
• Exemple d’utilisation personnelle, les consignes « quotidiennes »
• Exemple d’utilisation personnelle/professionnelle : comment utiliser un LLM?
• Exemple d’utilisation professionnelle : génération d’une feuille de calcul client
• Exemple : comparaison linguistique entre ChatGPT et Claude; Importance de l’exploration personnelle et de l’alignement des modèles
• Suggestions supplémentaires pour explorer l’IA

C’est le temps des questions
 

Public cible

• Conseillers en toxicomanie
• Gestionnaires de cas certifiés
• Conseillers, éducateurs 
• Thérapeutes conjugaux et familiaux
• Infirmières
• Médecins
• Psychologues
• Travailleurs sociaux
• Art-thérapeutes