AI एथिक्स क्या है और इसके मुख्य सिद्धांत क्या हैं?

निष्पक्षता और भेदभाव न करना

AI सिस्टम को किसी को उसके लिंग, राष्ट्रीयता, उम्र, धर्म या ऐसी ही पहचान के कारण कमतर नहीं आँकना चाहिए। चूँकि मॉडल इंसानी डेटा से सीखते हैं, निष्पक्षता वह चीज़ है जिसे जाँचा जाता है, मान नहीं लिया जाता।

• फ़ीचर को अलग-अलग नामों, भाषाओं और बोलियों के साथ टेस्ट करें।
• आवेदकों या ग्राहकों को ठुकराने का काम अकेले AI पर न छोड़ें।
• अपील करने या किसी इंसान तक पहुँचने का रास्ता दें।

पारदर्शिता और ईमानदारी

लोगों को पता होना चाहिए कि वे AI से बात कर रहे हैं और वह क्या कर सकता है और क्या नहीं। जो चैट विजेट इंसान होने का दिखावा करे, या AI के लिखे रिव्यू ग्राहकों की राय बनाकर दिखाए जाएँ, तो भरोसा जल्दी टूटता है।

AI असिस्टेंट पर साफ़ लेबल लगाएँ, और सरल भाषा में बताएँ कि वह जवाब देने के लिए कौन सी जानकारी इस्तेमाल करता है।

प्राइवेसी और सहमति

सिर्फ़ ज़रूरी डेटा इकट्ठा करें, बताएँ कि क्यों कर रहे हैं, और लोगों को सहमति वापस लेने दें। सऊदी PDPL और यूरोपीय GDPR जैसे प्राइवेसी क़ानून इन्हीं बातों को औपचारिक रूप देते हैं, इसलिए सिर्फ़ सामान्य सिद्धांतों पर निर्भर रहने की जगह जाँचें कि आपके ग्राहकों पर कौन से नियम लागू होते हैं।

सुरक्षा, जवाबदेही और इंसानी निगरानी

AI सिस्टम जो करता है उसके लिए कोई ज़िम्मेदार होना चाहिए। इसका मतलब है एक तय मालिक, समस्या बताने का तरीक़ा, देखने लायक लॉग और एक इंसान जो अहम फ़ैसलों में सिस्टम को पलट सके।

सुरक्षा का मतलब दायरा सीमित रखना भी है: प्रोडक्ट के सवालों का जवाब देने वाले असिस्टेंट को पेमेंट डेटा तक पहुँच की ज़रूरत नहीं।

• रिफ़ंड, मेडिकल, क़ानूनी और वित्तीय मामलों में इंसान को प्रक्रिया में रखें।
• ग़लतियाँ पकड़ने के लिए बातचीत की नियमित समीक्षा करें।
• लिखकर रखें कि AI को क्या करने की अनुमति है।

Uttra के साथ सिद्धांत लागू करना

इन्हें आप अपने प्रॉम्प्ट में शर्तों के रूप में लिख सकते हैं। उदाहरण: "एक चैट हेल्पर जोड़ो जो साफ़ कहे कि वह AI असिस्टेंट है, सिर्फ़ मेरे सर्विस पेजों से जवाब दे, निजी जानकारी कभी स्टोर न करे, और कामकाजी घंटों में इंसान से संपर्क का बटन दे।" नतीजा देखें और शब्द तब तक बदलते रहें जब तक व्यवहार ग्राहकों से आपके वादे से मेल न खाए।