Tasarımcılar artık sadece arayüzlerin nasıl görünmesi ve davranması gerektiğini değil, aynı zamanda zaman içinde nasıl öğrenmeleri ve adapte olmaları gerektiğini de tanımlamalıdır. AI müdahalesi için uygun anları belirlemeli, sistem özerkliği için sınırlar oluşturmalı ve AI yetenekleri yetersiz kaldığında, başarısız olduğunda sistemin nasıl yanıtlar üreteceğini tasarlamalıdır.

Rol artık kullanıcı ihtiyaçları ile makine öğrenimi modellerinin teknik kısıtlamaları arasında çeviri yapmayı, veri bilimcilerine kullanıcıların ne beklediğini açıklamayı ve ürün ekiplerine model sınırlamalarını iletmeyi içerir. Ayrıca tasarımcılar giderek daha fazla etik koruyucular olarak hizmet vermekte, yapay zeka sistemlerinden kaynaklanabilecek potansiyel önyargıları, zararlı kalıpları veya beklenmeyen sonuçları belirliyor ve bu risklere yönelik hafifletici önlemler geliştirmektedir.

Etkili bir tasarımcı veri bilimciyle işbirliğine de girmelidir. Veri bilimcinin süreçlerinden de haberdar olması gerekir. Bu ortaklığı başarılı kılmak için ekipler birkaç temel uygulamaya odaklanmalıdır:

• Projenin erken aşamalarında net iletişim kanalları oluşturulmalıdır.
• Her iki rol aynı iş akışlarına entegre edilmelidir. Her ikisi aynı süreçlerde ve çalışma ortamlarına bulunmalıdır.
• Ortak bir kelime dağarcıkları olmalıdır. “Model”, “kişiselleştirme” ve “segmentler” gibi terimler genellikle disiplinler arasında farklı anlamlara sahiptir ve erken ele alınmazsa yanlış anlaşılmalara yol açar.
• Nitel ölçümleri (kullanıcı memnuniyeti, güven) nicel ölçümlerle (tahmin doğruluğu, katılım) birleştiren dengeli değerlendirme yöntemlerini kullanılmalıdır.

Tasarımcı, AI entegre edilen yapıları net olarak tasarlamalıdır. Çünkü, kullanıcıların, sistemin ne zaman kesin olduğunu, ne zaman eğitimli bir tahminde bulunduğunu anlamaları gerekir. İyi tasarımlar, tahminler yanlış olduğunda kullanıcıların geri bildirim sağlamaları için net yollar içerir. Güveni korurken sistemin iyileştirilmesine yardımcı olur. Kaçınılmaz hatalar meydana geldiğinde belirsizliği gizlemek yerine sınırlamaları öngören şeffaf tasarımlar, uzun vadede daha güçlü kullanıcı güveni oluşturma eğilimindedir.

Ayrıca, tasarımcı artık etik sınırların netleştirilmesinden de sorumludur. Tasarımcı, kullanıcıları olası zararlardan korurken sistemin işleyişinize zarar vermeyecek süreçler tasarlar. Kullanıcıların yapay zeka ile ne zaman etkileşime girdiklerini, sistemin kararları nasıl aldığını ve bu kararları hangi verilerin etkilediğini anlamalarına yardımcı olmalıdır. Şeffaflık mekanizmaları inşa edilmelidir.