"Le RGPD interdit la collecte des données privées ... bla bla ...", oui, bien sur, on vous fait totalement confiance...
Plus sérieusement, des outils basés sur des technos d'IA pour faciliter l'analyse de grosses quantités de données, ce n'est pas fondamentalement mauvais. Pour moi, en faire usage fait sens, j'aimerais bien pouvoir avoir ça pour analyser le demi-million de tickets informatiques annuels de ma boîte pour en tirer des choses plus utiles que ce que je suis capable de détecter avec mon cerveau.
Mon avis actuel sur la question, c'est que tout algo d'aide à la détection ou à la décision devrait être public, pour être contrôlé, que des experts puissent vérifier qu'il ne comporte pas de biais de construction. Enfin si c'est chose possible : j'avoue que je ne sais pas comment on audite un réseau de neurones, ça a tendance à être des boîtes noires ces trucs.