Class 9 Computer Science — Complete notes in English and Urdu
Bias in AI happens when an AI system makes unfair or incorrect decisions because of problems in the data or the way it was trained. AI learns from data, and if the data contains unfair patterns or stereotypes, the AI will learn those patterns. For example, if an AI is trained on data that mostly includes one group of people, it may not work well for other groups. Bias in AI can lead to unfair decisions in areas like hiring, loans, healthcare, and criminal justice. It is important to use diverse, fair, and balanced data to reduce bias and make AI decisions more fair and accurate.
AI میں تعصب اس وقت ہوتا ہے جب AI سسٹم ڈیٹا یا اس کی تربیت کے طریقے میں مسائل کی وجہ سے غیر منصفانہ یا غلط فیصلے کرتا ہے۔ AI ڈیٹا سے سیکھتا ہے، اور اگر ڈیٹا میں غیر منصفانہ پیٹرن یا دقیانوسی تصورات ہیں، تو AI ان پیٹرن کو سیکھ لے گا۔ مثال کے طور پر، اگر AI کو ڈیٹا پر تربیت دی جاتی ہے جس میں زیادہ تر لوگوں کا ایک گروپ شامل ہے، تو یہ دوسرے گروپوں کے لیے اچھا کام نہیں کر سکتا۔ AI میں تعصب ملازمت، قرضے، صحت کی دیکھ بھال، اور فوجداری انصاف جیسے شعبوں میں غیر منصفانہ فیصلوں کا باعث بن سکتا ہے۔ تعصب کو کم کرنے اور AI فیصلوں کو زیادہ منصفانہ اور درست بنانے کے لیے متنوع، منصفانہ اور متوازن ڈیٹا کا استعمال کرنا ضروری ہے۔
| Type of Bias | Description | Example |
|---|---|---|
| Data Bias | AI learns from unbalanced or unrepresentative data | Facial recognition not working for all skin tones |
| Algorithm Bias | The way the AI processes data leads to unfair results | AI favoring certain groups in hiring |
| Confirmation Bias | AI reinforces existing stereotypes | AI recommending jobs based on gender |
| Sampling Bias | Data is collected from a limited group | Survey data only from one city |
| Historical Bias | AI learns from past unfair decisions | AI using past biased loan approvals |
| تعصب کی قسم | وضاحت | مثال |
|---|---|---|
| ڈیٹا کا تعصب | AI غیر متوازن یا غیر نمائندہ ڈیٹا سے سیکھتا ہے | چہرے کی شناخت تمام جلد کے رنگوں کے لیے کام نہیں کرنا |
| الگورتھم کا تعصب | AI کے ڈیٹا پر کارروائی کرنے کا طریقہ غیر منصفانہ نتائج کا باعث بنتا ہے | AI ملازمت میں بعض گروہوں کو ترجیح دینا |
| تصدیقی تعصب | AI موجودہ دقیانوسی تصورات کو تقویت دیتا ہے | AI جنس کی بنیاد پر نوکریوں کی سفارش کرنا |
| نمونے کا تعصب | ڈیٹا ایک محدود گروپ سے اکٹھا کیا جاتا ہے | سروے کا ڈیٹا صرف ایک شہر سے |
| تاریخی تعصب | AI ماضی کے غیر منصفانہ فیصلوں سے سیکھتا ہے | AI ماضی کے متعصب قرض کی منظوریوں کا استعمال |