Californië: AB 3030 over generatieve AI in communicatie in de gezondheidszorg (2024)

De in 2024 aangenomen en op 1 januari 2025 in werking getreden wet AB 3030 voegt aan de California Health and Safety Code eisen toe voor het gebruik van generatieve kunstmatige intelligentie in communicatie met patiënten. Zij is van toepassing op zorginstellingen, klinieken, artsenpraktijken en groepspraktijken die generatieve AI gebruiken om schriftelijke of mondelinge communicatie aan een patiënt over diens klinische informatie te genereren. De wet is bedoeld om de transparantie en de mogelijkheid voor de patiënt om een menselijke clinicus te bereiken te behouden, naarmate door AI gegenereerde berichtgeving in de gezondheidszorg steeds gebruikelijker wordt.

De betrokken communicatie moet een vermelding bevatten die aangeeft dat de communicatie door kunstmatige intelligentie is gegenereerd, evenals duidelijke instructies die beschrijven hoe de patiënt contact kan opnemen met een menselijke zorgverlener, medewerker of andere bevoegde persoon. Deze eis geldt niet wanneer een erkende of gecertificeerde zorgverlener de door AI gegenereerde communicatie leest en controleert voordat deze wordt verzonden. De handhaving verloopt via de bevoegde vergunningverlenende instanties, waaronder het California Department of Public Health (CDPH) en de betrokken beroepsorganisaties.