AI இல் சார்பு

வரையறை

AI-யில் சார்பு என்பது, தரவுத்தொகுப்புகளில் பிரதிபலிக்கும் சாய்ந்த தரவு, குறைபாடுள்ள வடிவமைப்பு அல்லது சமூக ஏற்றத்தாழ்வுகள் காரணமாக AI வெளியீடுகளில் ஏற்படும் முறையான பிழைகளைக் குறிக்கிறது. இது நியாயமற்ற அல்லது பாரபட்சமான விளைவுகளுக்கு வழிவகுக்கும்.

நோக்கம்

AI அமைப்புகளில் உள்ள நியாயமற்ற தன்மையைக் கண்டறிந்து குறைப்பதே சார்புகளைப் படிப்பதன் நோக்கமாகும். நிறுவனங்கள் இந்தப் பிரச்சினைகளைத் தீர்ப்பதன் மூலம் மிகவும் சமமான மாதிரிகளை உருவாக்குவதை நோக்கமாகக் கொண்டுள்ளன.

முக்கியத்துவம்

• கவனிக்கப்படாவிட்டால், பணியமர்த்தல், கடன் வழங்குதல் அல்லது சுகாதாரப் பராமரிப்பு ஆகியவற்றில் பாகுபாட்டிற்கு வழிவகுக்கிறது.
• AI அமைப்புகள் மீதான நம்பிக்கையை குறைமதிப்பிற்கு உட்படுத்துகிறது.
• உணர்திறன் வாய்ந்த தொழில்களில் ஒழுங்குமுறை இணக்கம் தேவை.
• நியாயத்தன்மை மற்றும் பொறுப்பான AI நடைமுறைகளுடன் தொடர்புடையது.

எப்படி இது செயல்படுகிறது

1. சார்புக்கான சாத்தியமான ஆதாரங்களை அடையாளம் காணவும் (தரவு சேகரிப்பு, லேபிளிங், மாடலிங்).
2. சமநிலையின்மைக்கான தரவுத்தொகுப்புகளை பகுப்பாய்வு செய்யவும்.
3. நியாயத்தன்மையை உணரும் பயிற்சி முறைகளைப் பயன்படுத்துங்கள்.
4. நியாயத்தன்மை அளவீடுகளுடன் வெளியீடுகளைச் சோதிக்கவும்.
5. தேவைப்பட்டால் வடிவமைப்பைச் சரிசெய்து மீண்டும் பயிற்சி செய்யுங்கள்.

உதாரணங்கள் (உண்மையான உலகம்)

• COMPAS இடர் மதிப்பீட்டு கருவி: இன சார்புக்காக விமர்சிக்கப்பட்டது.
• அமேசான் பணியமர்த்தல் வழிமுறை: பாலின சார்பு காரணமாக நிராகரிக்கப்பட்டது.
• முக அங்கீகாரம்: சில மக்கள்தொகை குழுக்களை தவறாக வகைப்படுத்துவதாக அறியப்படுகிறது.

குறிப்புகள் / மேலும் படித்தல்

• AI சார்பு — NIST.
• நியாயத்தன்மை மற்றும் இயந்திர கற்றல் — பரோகாஸ், ஹார்ட், & நாராயணன் (புத்தகம்).
• வழிமுறை சார்பு — ACM FAccT மாநாட்டு நடவடிக்கைகள்.
• பல்வேறு AI பயிற்சி தரவு: சார்புகளை நீக்குவதற்கான திறவுகோல்