மனித பின்னூட்டத்திலிருந்து வலுவூட்டல் கற்றல் (RLHF)

RLHF

வரையறை

மனித கருத்துக்களிலிருந்து வலுவூட்டல் கற்றல் (RLHF) என்பது பயிற்சிச் செயல்பாட்டில் மனித தீர்ப்புகளை இணைப்பதன் மூலம் AI மாதிரிகளை மனித மதிப்புகளுடன் சீரமைப்பதற்கான ஒரு முறையாகும். இது பெரும்பாலும் பெரிய மொழி மாதிரிகளை நன்றாகச் சரிசெய்யப் பயன்படுகிறது.

நோக்கம்

AI வெளியீடுகளை பாதுகாப்பானதாகவும், மிகவும் பயனுள்ளதாகவும், மனித விருப்பங்களுடன் ஒத்துப்போகச் செய்வதே இதன் நோக்கமாகும். தீங்கு விளைவிக்கும், சார்புடைய அல்லது பொருத்தமற்ற பதில்களைக் குறைப்பதன் மூலம் RLHF உரையாடல் அமைப்புகளை மேம்படுத்துகிறது.

முக்கியத்துவம்

  • AI பயிற்சியில் மனித மேற்பார்வையை வழங்குகிறது.
  • AI அமைப்புகளின் நம்பகத்தன்மையை மேம்படுத்துகிறது.
  • மனித குறிப்புத் தேவைகள் காரணமாக உழைப்பு மிகுந்தது.
  • முன்னுரிமை மாதிரியாக்கம் மற்றும் சீரமைப்பு ஆராய்ச்சியுடன் தொடர்புடையது.

எப்படி இது செயல்படுகிறது

  1. மாதிரி வெளியீடுகளை ஒப்பிட்டு மனித கருத்துக்களை சேகரிக்கவும்.
  2. மனித விருப்பங்களின் அடிப்படையில் ஒரு வெகுமதி மாதிரியைப் பயிற்றுவிக்கவும்.
  3. அடிப்படை மாதிரியை நன்றாகச் சரிசெய்ய வலுவூட்டல் கற்றலைப் பயன்படுத்தவும்.
  4. சீரமைப்பு இலக்குகளுக்கு எதிராக செயல்திறனை மதிப்பிடுங்கள்.
  5. கூடுதல் கருத்துகளுடன் மீண்டும் செய்யவும்.

உதாரணங்கள் (உண்மையான உலகம்)

  • OpenAI ChatGPT: பாதுகாப்பான பதில்களுக்காக RLHF உடன் சிறப்பாக டியூன் செய்யப்பட்டுள்ளது.
  • ஆந்த்ரோபிக்கின் அரசியலமைப்பு AI: நேரடி பின்னூட்டங்களை விட கொள்கைகளால் வழிநடத்தப்படுகிறது.
  • InstructGPT: RLHF ஐ நிரூபிக்கும் ஆரம்பகால OpenAI மாதிரி.

குறிப்புகள் / மேலும் படித்தல்

உங்கள் அடுத்த AI முயற்சிக்கு நாங்கள் எவ்வாறு உதவ முடியும் என்று எங்களிடம் கூறுங்கள்.