В Калифорнии продвигают ограничения для AI-чатботов в сфере психотерапии

Коротко

SB 903 был внесен 21 января и прошел комитет Ассамблеи по ассигнованиям голосованием 13-0.
Дата голосования Ассамблеи по законопроекту пока не объявлена.
Законопроект ограничит использование AI в психотерапии вспомогательными задачами, запретит чатботам выдавать себя за терапевтов и потребует надзора клинициста и согласия пациента.
Сенат Калифорнии ранее одобрил SB 903 голосованием 39-0, а затем документ прошел два профильных комитета Ассамблеи с результатами 17-0 и 14-1.
Опрос American Psychological Association показал, что у 77% психологов были пациенты, использовавшие AI для целей, связанных с психическим здоровьем.

Что произошло

В Калифорнии законопроект SB 903 прошел комитет Ассамблеи по ассигнованиям голосованием 13-0 и был направлен к третьему чтению. Дата голосования Ассамблеи пока не объявлена.

Документ, также известный как Wellness and Oversight for Psychological Resources Act, предлагает ограничить применение AI в психотерапии вспомогательными задачами. Он также запрещает чатботам выдавать себя за терапевтов и требует надзора клинициста и согласия пациента.

Что предусматривает SB 903

Законопроект также должен защитить терапевтические данные. При этом из-под действия требований выводятся взаимная поддержка, религиозное консультирование, исследовательская деятельность и одобренные на федеральном уровне медицинские инструменты.

Автор законопроекта, сенатор штата Калифорния Steve Padilla, заявил при внесении меры, что AI-алгоритмы не подходят для замены человеческих терапевтов, поскольку не способны воспроизвести их навыки и подготовку. По его словам, необходимы ограничения, которые не позволят применять AI-алгоритмы потенциально вредным для пациентов образом.

Где находится законопроект

Сенат Калифорнии одобрил SB 903 в мае голосованием 39-0. Позже документ прошел два профильных комитета Ассамблеи с результатами 17-0 и 14-1.

Если Ассамблея одобрит измененный законопроект, он вернется в Сенат для согласования, а затем будет направлен губернатору Калифорнии Gavin Newsom на подпись.

Почему это важно

Критики, включая исполнительного директора отраслевой технологической группы TechNet Robert Boykin, считают, что требование участия клинициста может замедлить получение помощи на фоне нехватки специалистов в сфере поведенческого здоровья в округах.

Boykin заявил CalMatters, что при нехватке таких специалистов в каждом округе Калифорнии SB 903 создает клиническое узкое место перед инструментами приема и скрининга, которые помогают пациентам быстрее добраться до помощи.

В июне опрос American Psychological Association показал, что у 77% психологов были пациенты, использовавшие AI для целей, связанных с психическим здоровьем. Исследователи King’s College London, Protestant University of Applied Sciences и City University of New York также пришли к выводу, что чатботы могут усиливать бредовые идеи из-за чрезмерного согласия и персонализированных ответов.