14 0 true <p style="text-align: right;"><em>Cross post จาก <a href="http://wonam.exteen.com/20100202/entry">wonam.exteen.com</a></em></p> <p><strong>ตัวจำแนก</strong>คือเครื่องมือหรือเกณฑ์พร้อมทั้งการทดสอบบางอย่างเพื่อใช้แยกวัตถุออกเป็นประเภทตามที่เราต้องการ ยกตัวอย่างเช่น เครื่องมือตรวจของแพทย์ในการตรวจสอบว่าเราเป็นไข้หวัดหรือไม่ สีของท้องฟ้าที่เราพยายามใช้เพื่อบอกว่าฝนจะตกหรือไม่ รวมไปจนถึงเจ้าเครื่อง แกรนทัวริสโม 200 ที่ใช้จำแนกหรือบ่งชี้วัตถุอันตรายต่าง ๆ</p> <p>ปกติแล้วเครื่องมือเหล่านี้มักจะไม่ได้ทำงานได้ 100% ยกตัวอย่างเช่น ถ้าเราไปตรวจพบว่าเป็นไข้หวัดด้วยเครื่องมือธรรมดา จริง ๆ แล้วเราอาจจะไม่ได้เป็นก็ได้ แต่เครื่องมือตรวจผิดพลาด แพทย์มักให้ตรวจสอบซ้ำด้วยเครื่องมืออื่นเพื่อยืนยันผล</p> <p>ทีนี้ พอเรากล่าวว่าเครื่องมือทำงานไม่ได้ 100% ค่าที่เรามักจะได้ยินก็คือ เครื่องมือวัดนั้นมีความผิดพลาดเท่าใด จริง ๆ แล้วการระบุดังกล่าวเป็นการอธิบายภาพรวมคร่าว ๆ ของเครื่องมือ โดยไม่ได้พิจารณาถึงรายละเอียดของเหตุการณ์ที่เกิด "ความผิดพลาด" ขึ้น</p> <p>ขอยกตัวอย่างการตรวจว่าเป็นไข้หวัด เพราะว่าน่าจะเห็นภาพได้ง่ายหน่อย ถ้าลองตีตารางดูเพื่อพิจารณากรณีที่เป็นไปได้เกี่ยวกับเรื่องนี้ จะพบว่ามีกรณีที่เป็นไปได้ 4 แบบ คือ</p> <table border="2"> <tbody> <tr> <td>&nbsp;</td> <td style="border: 1px solid black;">เครื่องมือวัดบอกว่าเป็นหวัด</td> <td style="border: 1px solid black;">เครื่องมือวัดบอกว่าไม่เป็นหวัด</td> </tr> <tr> <td style="border: 1px solid black;">เป็นหวัด</td> <td style="border: 1px solid black;" align="center"><span style="color: #008000;"><strong>ตอบถูก</strong></span></td> <td style="border: 1px solid black;" align="center"><span style="color: #ff0000;"><strong>ตอบผิด (II)</strong></span></td> </tr> <tr> <td style="border: 1px solid black;">ไม่เป็นหวัด</td> <td style="border: 1px solid black;" align="center"><span style="color: #ff0000;"><strong>ตอบผิด(I)</strong></span></td> <td style="border: 1px solid black;" align="center"><span style="color: #008000;"><strong>ตอบถูก</strong></span></td> </tr> </tbody> </table> <p>&nbsp;</p> <p>สังเกตว่าเราสามารถตอบผิดได้ 2 แบบ</p> <ul> <li>ตอบผิดแบบแรก (I) ทางสถิติเรียกว่า False positive คือเครื่องมือบอกว่าเป็นหวัด (positive) แต่จริง ๆ ไม่ได้เป็น </li> <li>แบบที่สอง (II) ทางสถิติเรียกว่า False negative คือเครื่องมือบอกว่าไม่เป็นหวัด (negative) แต่จริง ๆ แล้วเป็น </li> </ul> <p>ในการค่าเหล่าเราสามารถใช้การทดลองเพื่อประมาณค่าได้</p> <p>การทดลองโดยทั่วไปจะเป็นแบบ blind experiment (ดูคำอธิบายเปรียบเทียบวิธีการทดลองแบบต่าง ๆ จากตอนปลาย ๆ ของ<a href="http://pantip.com/cafe/wahkor/topic/X8819409/X8819409.html">กระทู้ของหมอแมว</a> คำเตือน: ตอนต้นกระทู้ไม่เกี่ยว และเจ้าของบล็อกนี้ไม่จำเป็นต้องเห็นด้วยกับข้อความเหล่านั้น) คือจะมีการนำตัวอย่างที่ผู้ทดสอบไม่ทราบว่าเป็นหวัดหรือไม่เป็นมาให้ทดสอบ จากนั้นก็หาอัตราส่วนความผิดพลาดทั้งสองแบบออกมา</p> <p>วิธีการนี้ใช้กันทั่วไป และยิ่งใช้กันมากในวงการแพทย์ (ตามที่ผมเข้าใจ) เวลาจะทดลองยาใหม่ ๆ ก็จะมีการหากลุ่มตัวอย่างแล้วให้ยาจริงกับยาปลอมไปแล้ววัดผลแตกต่าง อันนี้ก็เป็น blind experiment เช่นเดียวกัน โดยมากการเลือกให้ยาจริงหรือยาปลอมก็จะทำโดยเครื่องสุ่ม ไม่ใช่แพทย์เลือกด้วยซ้ำเพื่อป้องกันความเอนเอียงในรูปแบบต่าง ๆ</p> <p>อัตราความผิดพลาดทั้งสองแบบก็สามารถหาได้ด้วยสูตรด้านล่าง:</p> <ul> <li>อัตรา False positive = จำนวนกรณีที่เป็น false positive / จำนวนคนที่ไม่เป็นหวัดทั้งหมด</li> <li>อัตรา False negative = จำนวนกรณีที่เป็น false negative / จำนวนคนเป็นหวัดทั้งหมด</li> </ul> <p>ค่าสองค่านี้ตีความง่าย ๆ ได้ว่า อัตรา false positive คืออัตราความซวยของคนที่ไม่ได้เป็นหวัด คือจริง ๆ เราไม่ได้เป็นหวัด แต่เครื่องมือทำให้เรากลัดกลุ้มว่าเราเป็นหวัด หรืออาจจะทำให้เกิดความแย่อื่น ๆ ตามมาเช่น โดนหมอฉีดยา ส่วนอัตรา false negative คืออัตราความปลอดภัยแบบจอมปลอม คือการที่เครื่องปล่อยคนเป็นหวัดจริง ๆ ไป จริง ๆ แล้วเราเป็นหวัด แต่เครื่องดันตรวจไม่เจอ เราก็นึกว่าเราสบายแล้ว เที่ยวแพร่เชื้อไปทั่ว เป็นต้น</p> <p>อย่างไรก็ตาม ค่าสองค่านี้ ยังไม่พอที่จะใช้ระบุความผิดพลาดของเครื่องมือวัดหรือตัวจำแนกได้</p> <p>สิ่งที่ขาดไปคืออัตราส่วนของคนที่เป็นหวัดจริง ๆ ต่อคนไม่ได้เป็นหวัด ซึ่งสำคัญมากในการวัดผลความผิดพลาด</p> <p>ขอยกตัวอย่างเป็นตัวเลขเพื่อจะได้เห็นภาพนะครับ</p> <p>สมมติว่า เรามีเครื่องวัดห่วยมากอันหนึ่ง คือ เครื่องมือนี้ตอบว่า "ไม่เป็น" อย่างเดียวเลย</p> <p>ทีนี้เราพบว่า อัตรา false positive เป็น 0 (ดีเลิศ) ไม่มีคนไม่เป็นแต่โดนกล่าวหาเลย แต่อัตรา false negaive จะแย่มาก คือเป็น 100%</p> <p>อย่างไรก็ตาม ถ้าจริง ๆ แล้วคนที่เป็นหวัดมีแค่ 1% เครื่องมือนี้ก็จะมีความผิดพลาดแค่ 1% เท่านั้น (ใน 100 คน มีคนที่เครื่องมือชี้ผลผิดพลาดแค่ 1 คน)</p> <p>เลข 1% นั้นดูดีมากเลยเวลาเอาไปบอกกับใคร ๆ</p> <p>ทีนี้ เราลองคงอัตราส่วนคนเป็นหวัดเอาไว้ที่ 1% ก่อนนะครับ สมมติมีเครื่องมืออีกอันที่มีประสิทธิภาพดีขึ้นคือ มีอัตราทั้ง false negative เป็น 10% และ false positive ก็เป็น 10% เช่นเดียวกัน</p> <p>สมมติว่าเรามีคน 10,000 คน ก็จะมีคนเป็นหวัด 100 คน เครื่องมือตรวจไม่เจอ 10 คน ส่วนคนไม่เป็นหวัด 9,900 เครื่องมือไปชี้ว่าเป็นหวัด 990 คน</p> <p>ความผิดพลาด 10% เท่านั้นครับ แต่ว่าคนที่ตรวจเจอจริง ๆ มี 90 คน คนที่ไม่เป็นแต่โดนบอกว่าเป็นมีมากกว่า 10 เท่า</p> <p>จากตัวอย่างสองอันที่ยกมา สังเกตว่าค่าความผิดพลาด อัตรา false positive และ false negative นั้นเป็นตัวเลขที่ดูจะผันผวนมาก การกล่าวถึงค่าบางค่าโดยลำพังนั้นโดยมากไม่พอเพียงที่จะใช้แจ้งข้อมูลลักษณะความผิดพลาดที่จะเกิดขึ้นได้เท่าใด</p> <p>เพื่อให้เห็นภาพที่ชัดยิ่งขึ้นขอยกตัวอย่าง แกรนทัวริสโม 200 (ตามคาด)</p> <p>เพื่อความชัดเจน จะพิจารณารูปแบบการใช้เครื่องจำแนก แกรนทัวริสโม 200 ในแบบง่าย ก็คือ เราจะมีวัตถุต้องสงสัย อาจจะเป็นรถยนต์ รถจักรยานยนต์ เป็นกระเป๋า หรือกระทั่งเป็นคน</p> <p>ผมคิดว่าอัตราส่วนของของที่มีระเบิดหรือสารเสพติดจริง ๆ น่าจะน้อยมาก แต่ขอคิดให้มันเยอะ ๆ ไปก่อน คือคิดเป็น 1% ของของทั้งหมด (คือรถวิ่งผ่านไป 100 คัน มีระเบิด 1 คัน เดินผ่านตลาดไปรถร้อยคันมีระเบิดหนึ่งคัน ซึ่งเยอะมากๆๆ ของจริงไม่มีทางมากขนาดนี้)</p> <p>พิจารณาว่ามีรถ 1000 คัน 10 คันในนั้นมีระเบิด ตัวเลขของการตรวจผิดแบบใดที่เรายอมรับได้ว่ามีผลที่ดี? เราจะลองดูนะครับว่าเครื่องที่ได้อย่างที่เราต้องการ ต้องมีอัตราความผิดพลาดเท่าใดกัน? ลองพิจารณากรณีด้านล่างดูนะครับ</p> <ul> <li><strong>กรณี 1</strong>. รถระเบิด 10 คัน ตรวจเจอ 9 คัน รถไม่มีระเบิด ตรวจผิดว่ามีระเบิดไป 9 คันเท่ากัน<br /> ในกรณีนี้ตรวจผิดไปรวม 10 คัน (false positive 9, false negative 1) จาก 1000 คัน คือเครื่องตรวจจะต้องมีความผิดพลาดไม่เกิน 1%</li> <li><strong>กรณี 2</strong>. รถระเบิด 10 คัด ตรวจเจอ 9 คัน รถไม่มีระเบิด ตรวจผิดว่ามีระเบิดไป 81 คัน (มากกว่า 9 เท่า) เครื่องตรวจนี้มีความผิดพลาด 100/1000 = 10% เท่านั้นเอง</li> <li><strong>กรณี 3.</strong> สมมติว่าเราตรวจเจอรถระเบิด 9 คัน ส่วนตรวจรถที่ไม่มีระเบิดว่ามีระเบิดผิดแค่ 1 คัน ในกรณีนี้ เครื่องจะต้องมีความผิดพลาดไม่เกิน (1+1)/1000 = 0.2% (เครื่องต้องแม่นมาก ๆ)</li> </ul> <p>สังเกตว่า แค่เครื่องมีความผิดพลาดแค่ 10% จำนวน false positive ก็มหาศาลแล้ว</p> <p>เพราะฉะนั้น โดยมากเครื่องมือตรวจวัดที่ใช้ในกรณีที่ข้อมูลกลุ่มที่ต้องการตรวจจับมีจำนวนน้อย ๆ มักจะต้องมีความแม่นยำสูงมาก ๆ ไม่เช่นนั้นก็จะพบกับปัญหา false positive คือ จับแพะ เช่นตัวอย่างข้างต้น</p> <p>ที่เขียนมานี่ ผมก็ไม่เคยลงภาคสนามหรืออะไรพวกนี้ แค่อ่านเอาจากหนังสือสถิติเบื้องต้น ที่ชอบยกตัวอย่างการตรวจโรคว่าเป็นโรคไม่เป็นโรคกันเสียทุกเล่ม</p> <p><strong>อ่านเพิ่มเติม</strong> <a href="http://en.wikipedia.org/wiki/Type_I_and_type_II_errors">Type I and type II errors</a> จากวิกิพีเดีย</p> 2010-02-02T10:39:33+07:00 แค่ "อัตราความผิดพลาด" คงอธิบายภาพเหตุการณ์ได้ไม่ชัดเจนพอ false 2603 false false 2010-02-02T15:32:17+07:00 13 14 0 true <p>สำหรับคนที่อยากเห็นว่านักคณิตศาสตร์ระดับสุดยอดเวลาทำงานกันเป็นอย่างไร (ถ้าให้ลองนึก ก็ให้นึกถึงในภาพยนตร์เรื่อง Good Will Hunting) ลองติดตามได้จากบล็อกของ <a href="http://gowers.wordpress.com/">Timothy Gowers</a></p> <p><a href="http://en.wikipedia.org/wiki/Timothy_Gowers">Gowers</a> ตั้งคำถามว่า จะสามารถใช้ความร่วมมือจำนวนมหาศาลในการสร้างความก้าวหน้าในปัญหาทางคณิตศาสตร์ได้หรือไม่</p> <p>ผลลัพธ์ที่ได้ตอนนี้คือบทโต้ตอบอันยาวเหยียดผ่านทาง comment ของ<a href="http://gowers.wordpress.com/2009/02/01/a-combinatorial-approach-to-density-hales-jewett/">บล็อกเอนทรี</a>นี้ (ซึ่งตอนนี้ถูกแตกกระจายไปหลายบล็อกแล้ว) สิ่งที่ทำให้การอ่าน comment เหล่านี้ (แบบผ่าน ๆ) น่าตื่นเต้นมาก (เพราะว่าไม่ได้อ่านให้เข้าใจเท่าใด คงต้องใช้เวลามากทีเดียวในการทำความเข้าใจตาม) เพราะว่านี่อาจเป็นครั้งแรกที่เราเห็นการทำงานของนักคณิตศาสตร์ระดับชั้นยอดจริง ๆ กลุ่มหนึ่งผ่านทางอินเทอร์เน็ต</p> 2009-02-24T02:57:25+07:00 สำหรับคนที่อยากเห็นว่านักคณิตศาสตร์ระดับสุดยอดเวลาทำงานกันเป็นอย่างไร ลองติดตามได้จากบล็อกของ Timothy Gowers false 1287 false false 2009-02-24T02:57:25+07:00 13 14 1 true <p>ไม่ได้มาเขียนเสียนาน บังเอิญเขียนเรื่อยเปื่อยไว้ที่อีกบล็อกหนึ่ง ก็เลยถือโอกาสเอามาแปะที่นี่ด้วยครับ</p> <p> <hr /> การทำงานวิจัยในสาขาที่ไปเร็วมากอย่าง computer science นั้น สิ่งที่จำเป็นอย่างยิ่งก็คือการติดตามความก้าวหน้าของงานวิจัยในสาขาที่สนใจให้ทัน</p> <p>ถ้าเป็นสาขาที่มีความชำนาญอยู่แล้ว อาจจะไม่ใช่เรื่องยากสักเท่าใดนัก แต่ถ้าเป็นในสาขาใหม่ที่กำลังสนใจ การพยายามทำความเข้าใจว่า "สังคมวิจัย" ของสาขานั้นกำลังทำอะไรกันอยู่ เป็นสิ่งที่สำคัญมาก</p> <p>เพราะว่าสิ่งที่สำคัญมากในการทำวิจัยคือ "ปัญหาวิจัย"</p> <p>หลายคนบอกว่าปัญหาวิจัยที่ดีจะต้องมีคุณสมบัติ 1, 2, 3, 4, 5 (ไล่ไปได้เรื่อย ๆ)</p> <p>สิ่งหนึ่งที่หลีกไม่พ้นคือความน่าสนใจ --- ทั้งในเชิงวิชาการและในเชิงประยุกต์</p> <p>สำหรับผมแล้ว ถ้าผมทำงานวิจัยด้านทฤษฎี ข้อความน่าสนใจเชิงประยุกต์คงไม่สำคัญมากนัก แต่ถ้าจะทำวิจัยในเรื่องอื่น ๆ ความน่าสนใจในเชิงประยุกต์นั้นก็มีความสำคัญไม่แพ้กัน</p> <p>ทีนี้สำหรับคนที่กำลังจะเริ่ม จะรู้ได้อย่างไรว่าอะไรน่าสนใจ?</p> <p>มีทางง่าย ๆ อยู่ 2 ทาง ที่ผมจะลองพยายามเรียบเรียงออกมา</p> <p><strong>1. หาผู้เชี่ยวชาญ</strong>&nbsp; --- อันนี้ง่ายสุด แต่ว่าจะหาผู้เชี่ยวชาญในด้านนั้นอาจจะค่อนข้างยาก และปัญหาที่พบก็คือถ้าเป็นผู้เชี่ยวชาญต่างสาขา กว่าจะคุยกันรู้เรื่องมักใช้เวลานาน</p> <p>นอกจากนี้ บางทีผู้เชี่ยวชาญอาจไม่ได้ติดตามกระแสของงานวิจัยหลัก (เพราะว่ามักมีปัญหาเฉพาะทางที่สนใจอยู่แล้ว) ทำให้ผู้เริ่มต้นกว่าจะเริ่มทำงานได้อาจจะต้องใช้เวลาร่วมปีในการศึกษางาน เก่า</p> <p><strong>2. ค้นเอกสารเอง</strong> --- สำหรับในสาขา computer science ที่งานวิจัยล่าสุดมักตีพิมพ์ในการประชุมวิชาการ สิ่งแรกที่เราสามารถทำได้คือการหารายการของการประชุมที่จัดว่าเป็นการประชุม ที่เป็น "ที่สุด" ของสาขาที่เราสนใจ&nbsp; ซึ่งตรงนี้มักทำได้ไม่ยาก แต่สิ่งที่ตามมาก็คือความรู้สึกมึนงง เพราะว่าพอเปิดเข้าไปดูรายการงานวิจัยแล้วมักพบว่าดูไม่รู้เรื่อง และเต็มไปด้วยศัพท์แสงที่ไม่รู้จัก</p> <p>ถ้าพบสภาพดังกล่าว น่าจะพอเดาได้ว่าความรู้พื้นฐานไม่เพียงพอ ดังนั้นระหว่างที่ค้นหาปัญหาก็ต้องพยายามศึกษาเนื้อหาไปพร้อม ๆ กันด้วย</p> <p>วิธีการทั้งสองเป็นวิธีที่ผมใช้บ่อย ๆ สำเร็จบ้างไม่สำเร็จบ้าง ถ้าใครมีวิธีอื่น ๆ จะเอามาแบ่งปันก็ได้นะครับ</p> 2009-02-08T12:20:53+07:00 เพราะว่าสิ่งที่สำคัญมากในการทำวิจัยคือ "ปัญหาวิจัย" false 1268 2009-02-11T10:20:51+07:00 false false 2009-02-08T12:20:53+07:00 13 14 0 true <p>กำลังอ่านหนังสือของ <a href="http://www.amazon.com/Agile-Software-Development-Cooperative-Game/dp/0321482751/ref=sr_1_2?ie=UTF8&amp;s=books&amp;qid=1216862954&amp;sr=1-2">Agile Software Development</a> เขียนโดย <a href="http://alistair.cockburn.us/">Alistair Cockburn</a> อยู่ หนังสือเล่มนี้ไม่ได้ให้รายละเอียดว่าจะทำ agile software development อย่างไร ไม่ได้บอกขั้นตอนหรือการนำไปใช้&nbsp; เขาบอกว่าหนังสือเล่มนี้สำหรับผู้อ่านที่อยู่ในระดับ 2 และระดับ 3</p> <p>Cockburn กล่าวไว้ว่าในการเรียนรู้ทักษะใหม่ ผู้เรียนจะผ่านพัฒนาการ 3 ระดับ คือ following (ตาม), detaching (ถอยห่าง), และ fluent (คล่อง)</p> <p><strong>Level 1.</strong> คนที่อยู่ในขั้นตอน following ต้องการขั้นตอนที่ชัดเจนสำหรับเริ่มทำตาม&nbsp; ขั้นตอนดังกล่าวต้องลงรายเอียดมากพอที่จะให้รู้ได้ว่าทำอย่างไรงานถึงจะสำเร็จ&nbsp; เขาไม่ต้องการทราบว่ามีวิธีอื่น ๆ อีกมากมายที่สามารถทำได้เช่นเดียวกัน&nbsp; สำหรับนักพัฒนาขั้นแรกการเรียนรู้หลาย ๆ วิธีการนั้นมากเกินไป</p> <p><strong>Level 2.</strong> สำหรับคนที่อยู่ในขั้น detaching เขาเริ่มสังเกตและหาข้อจำกัดของวิธีการต่าง ๆ เมื่อถึงขั้นนี้เขาต้องการเรียนรู้วิธีการแบบต่าง ๆ ที่หลากหลายเพื่อที่จะเปรียบเทียบและเลือกใช้ให้เหมาะกับสถานการณ์</p> <p><strong>Level 3.</strong> คนที่อยู่ในขั้น fluent นั้นอยู่ในจุดที่ไม่สนใจแล้วว่าจะใช้วิธีอะไรในการดำเนินงาน เขามีความชำนาญมากพอที่จะจับโน่นนี้ ปรับจุดต่าง ๆ เพื่อทำให้งานสำเร็จออกมาได้&nbsp; ให้เขาดูแลงานแล้วก็ปล่อยเอาไว้ งานก็จะเสร็จออกมาเอง</p> <p>การทราบระดับของผู้เรียนเป็นสิ่งที่สำคัญมาก สำหรับผู้เรียนระดับ 1 นั้นผู้แนะนำไม่สามารถจะชี้ให้เขาเห็นหรือตระหนักได้ถึงจุดอ่อนจุดแข็งของกระบวนการที่เสนอ&nbsp; เพราะว่าแค่จะทำตามวิธีการนั้นอย่างไรผู้เรียนยังไม่ชำนาญพอเลย</p> <p><strong>หมายเหตุ:</strong> นอกจากการจัดระดับของ Cockburn ผมค่อนข้างแน่ใจว่าในสาขาอื่น ๆ ที่ได้มีการแบ่งระดับของผู้เรียนไว้ในลักษณะที่ใกล้เคียงกัน (เช่น <a href="http://socrates.berkeley.edu/~hdreyfus/pdf/MerleauPontySkillCogSci.pdf">งานของ Dreyfus</a> เป็นต้น) แต่ที่กล่าวถึง Cockburn เพราะว่าผมกำลังอ่านหนังสือของเขาอยู่ และคิดว่า Cockburn เป็นคนแรก ๆ ในสายการพัฒนาซอฟต์แวร์ที่สนใจและตกผลึกเรื่องดังกล่าว</p> 2008-07-24T08:52:34+07:00 false 941 false false 2008-07-24T09:14:18+07:00 13 14 2 true <p>จากคราวที่แล้ว <a href="/blog/jittat/733">"ทฤษฎีชี้ทาง"</a></p> <p>ทำไปทำมา เมื่อวานเพิ่งรู้ว่าโปรแกรมที่ใช้ทดลองเขียนผิด... นิสิตก็เลยแก้โปรแกรมใหม่ก็พบว่าผลการทดลองไม่ดีเหมือนเดิม<br /><br />เป็นที่น่าประหลาดมากว่าอัลกอริทึมเรียนรู้ที่ผิด (คือปรับตัวมั่ว) กลับเรียนได้ดีกว่าอัลกอริทึมที่ควรจะเป็น<br /><br />สักพักก็แก้ไปแก้มาจนคิดว่าถูกแล้ว นำมาทดลองใหม่ กลับพบว่า ผลการทำนายที่ได้จากอัลกอริทึมของคนอื่นกับอีกอัลกอริทึมที่เราทดลองไปเหมือนกัน<br /><br />นิสิตกับผมเลยได้กลับมาดูกันใหม่ ลองไล่ ๆ มา เลยได้พบว่าวิธีที่เราเสนอ (ที่น่าจะดีขึ้น) ที่เลียนแบบ max-win ที่น่าจะดีกว่า one-agaist-all กลับสมมูลกับอัลกอริทึมเดิม!!&nbsp; (คาดว่าน่าจะพิสูจน์ได้)<br /><br />ทั้งนิสิตและผมเองก็คาดไม่ถึงเหมือนกัน<br /><br />สิ่งที่น่าสนใจในขั้นต่อไปก็คือการวิเคราะห์เพิ่มเติมว่าทำไปอัลกอริทึมที่ปรับค่าผิด จึงเรียนรู้ได้ดีกว่าอัลกอริทึมที่เราเสนอ</p> 2008-02-29T16:01:33+07:00 false 758 2008-03-03T11:11:43+07:00 false false 2008-02-29T16:04:34+07:00 13 14 0 true <p>เมื่อวานเขียนรายงานวิจัยกับนิสิตป.โท</p><p>จริง ๆ จะเรียกว่า ทำงานวิจัย + เขียนไปพร้อม ๆ กัน เพราะว่าเส้นตายคือวันสุดท้ายแล้ว</p><p>งานที่ทำเป็นงานเกี่ยวกับการเรียนรู้แบบออนไลน์&nbsp;</p><p>ก่อนหน้านั้นหนึ่งวัน พยายามเพิ่มเนื้อหางาน โดยการเพิ่มอัลกอริทึมสำหรับการเรียนรู้แบบหลายประเภทเข้าไปอีกหนึ่งแบบ&nbsp; โดยเพิ่มจากที่งานวิจัยเก่า (ของคนอื่น) มีอยู่แล้ว</p><p>อัลกอริทึมที่เพิ่มเข้าไปมีลักษณะทำนองเดียวกับอัลกอริทึม Max-Win แต่ว่าเป็นการทำงานด้วยอัลกอริทึม Perceptron โดยปกติแล้ว อัลกอริทึมนี้ทำงานได้ดีกว่าวิธีการอื่น ๆ (เช่น One-against-all) แต่มักจะช้า</p><p>วิธีเก่าที่มีคนเสนอ มีลักษณะคล้าย ๆ กับ One-against-all ผมเลยคาดว่าอืม ถ้าใช้ Max-Win เพิ่มเข้าไป น่าจะให้ผลลัพธ์ที่ดี</p><p><em>ทดลองออกมา ผลแย่กว่ามาก</em></p><p>แก้อย่างไรก็ไม่ดีกว่า แถมโปรแกรมทำงานช้ากว่าเดิมอีกต่างหาก&nbsp;</p><p>กลับไปนอนคิด สุดท้ายก็คิดว่า ไม่เป็นไร ผลทดลองไม่ดีคงโอเค เพราะว่าเราน่าจะมีบทพิสูจน์ประสิทธิภาพบางอย่างได้&nbsp;&nbsp; ในระหว่างการพิสูจน์ ก็พบว่าอัลกอริทึมต้องมีการปรับค่าบางอย่าง เพื่อทำให้สามารถพิสูจน์ได้</p><p>กลับมาตอนเช้า บอกให้นักเรียนช่วยทดลองอัลกอริทึมที่ปรับแล้ว </p><p><em>ปรากฏว่าดีขึ้น แล้วผลก็ดีกว่าอัลกอริทึมเก่าได้รับการเสนอมาแล้ว (นิดหน่อย)!</em></p><p>ผมมักจะตอบกับคนอื่น ๆ เสมอ ว่าทำงานด้านทฤษฎีไปทำไม เพราะว่าส่วนมากก็มักจะไม่มีการประยุกต์ใช้ตรง ๆ ผมมักตอบว่าผลงานทางทฤษฎีหลาย ๆ ครั้ง ก็ชี้ทางให้กับการปฏิบัติ/การทดลอง... แต่หลายครั้งผมก็ไม่แน่ใจว่าจะเป็นไปได้บ่อยแค่ไหน</p><p>เหตุการณ์ที่เกิดขึ้นมาเมื่อวาน คงเป็นตัวอย่างที่ผมเล่าให้คนอื่น ๆ ฟังได้อีกพักใหญ่ (เพราะว่าน่าจะมีตัวอย่างใหม่ ๆ ให้เจอบ่อย ๆ) </p> 2008-02-18T18:36:52+07:00 false 733 false false 2008-02-18T18:38:08+07:00 13 14 0 true <p>แนวคิดหนึ่งที่สำคัญในทฤษฎีกราฟ ก็คือวัฏจักร หรือวงรอบ (cycle) ซึ่ีงก็คือเส้นทางที่เริ่มจากโหนดหนึ่งแล้วกลับมายังโหนดเดิม</p><p>บนกราฟที่ไม่มีทิศทาง กราฟที่ไม่มีวัฏจักรก็คือต้นไม้&nbsp; ถ้าเรามีกราฟไม่มีทิศทางที่มีน้ำหนัก แล้วต้องการหากราฟย่อยของกราฟดังกล่าวที่ไม่มีวัฏจักร เราสามารถทำได้โดยการคำนวณหาต้นไม้ย่อยทอดข้ามที่มีน้ำหนักมากที่สุด (Maximum-cost spanning tree) ซึ่งสามารถใช้อัลกอริทึมสำหรับปัญหาต้นไม้ย่อยทอดข้ามที่มีน้ำหนักน้อยที่สุดแก้ได้ ในเวลาที่เป็นพหุนามกับจำนวนโหนด</p><p>สำหรับกราฟที่มีทิศทาง ปัญหากลับยากขึ้นมาก&nbsp; กล่าวคือ ปัญหานี้กลับกลายเป็นปัญหาเอ็นพีบริบูรณ์&nbsp; เอกสารอ้างอิงเกี่ยวกับปัญหานี้ดูได้ที่เว็บ <a href="http://www.nada.kth.se/%7Eviggo/wwwcompendium/">A compendium of NP optimization problems</a> </p><p>ถ้าจะกล่าวให้ชัดเจน ปัญหาดังกล่าวสามารถอธิบายออกมาได้หลายรูปแบบ เช่น</p><p>1. <a href="http://www.nada.kth.se/~viggo/wwwcompendium/node20.html">Minimum Feedback Arc Set</a> &nbsp; ให้กราฟ หาเซ็ต S ของเส้นเชื่อมที่ทุก ๆ วัฏจักรต้องมีเส้นเชื่อมใน S อย่างน้อยหนึ่งเส้น&nbsp; ต้องการหาเซ็ต S ที่เล็กที่สุด</p><p>2. Maximum Acyclic Subgraph ให้กราฟ หากราฟย่อยที่ใหญ่ที่สุดของกราฟนั้น ที่ไม่มีวัฏจักร</p><p>สองปัญหานี้ดูแล้วเหมือนคล้าย ๆ กัน แต่ความยากในการประมาณคำตอบ (เท่าที่นักวิจัยทราบ) กลับแตกต่างกันมาก</p><p>สำหรับปัญหาที่สอง มีอัลกอริทึมที่ง่ายมาก ที่ให้คำตอบไม่แย่ไปกว่าสองเท่าของคำตอบที่ดีที่สุด (ถ้าคำตอบที่ดีที่สุดมีเส้นเชื่อม <em>X</em> เส้น อัลกอริทึมให้คำตอบไม่น้อยกว่า <em>X</em>/2 เส้น)&nbsp; อัลกอริทึมดังกล่าวง่ายมาก เราจะมาเขียนถึงในครั้งถัด ๆ ไป</p><p>ในปัญหาแรก อัลกอริทึมที่ดีที่สุดตอนนี้ให้คำตอบไม่แย่ไปกว่า <em>O</em>(log <em>n </em>loglog <em>n</em>) เท่าของคำตอยที่ดีที่สุด บนกราฟที่มี <em>n</em> โหนด</p><p>ปัญหานี้ค่อนข้างน่าสนใจมาก&nbsp; เนื่องจากสามารถนำไปประยุกต์ใช้ได้มากมาย เช่น ในกรณีที่เกิดเหตุการณ์ <a href="http://en.wikipedia.org/wiki/Deadlock">Deadlock</a> ในระบบ&nbsp; ถ้าเราต้องการจะตัดการขึ้นต่อกันบางอันออกให้สามารถแก้การติดขัดดังกล่าว โดยให้ตัดให้น้อยที่สุด ก็กลายเป็นปัญหา Minimum Feedback Arc Set นี่เอง </p><p>ผมศึกษาปัญหานี้มาตั้งแต่ตอนเรียนปริญญาเอก แล้วก็ยังไม่สามารถทำอะไรกับมันได้&nbsp; ตอนนี้หันมาทำงานด้านอัลกอริทึมสำหรับปัญหาชีวสารสนเทศ ก็กลับมาเจอปัญหาที่คาดว่าจะนำอัลกอริทึมสำหรับปัญหา Feedback Arc Set มาใช้แก้ได้อีก&nbsp;&nbsp; จะมาเขียนถึงในครั้งถัด ๆ ไปเช่นเดียวกัน</p> 2007-12-24T21:15:40+07:00 false 618 false false 2007-12-26T14:48:10+07:00 13 14 3 true <p><strong>หมายเหตุ: คุณ<a href="/blog/emptyblog">ปริญญา</a> ได้เขียนเรื่องนี้ไว้แล้ว ที่: การไม่เรียนรู้อะไรเลย (<a href="/blog/emptyblog/215">ตอนแรก</a>) และ (<a href="/blog/emptyblog/239">ตอนที่สอง</a>) ผมเขียนซ้ำเอง</strong></p><hr width="100%" size="2" /><p>ถ้ามีใครสักคนมาบอกว่า เขาสามารถแยกระหว่าง โค้ก กับ เป๊บซี่ ได้ คุณจะทำอย่างไรให้เชื่อได้ว่าเขาสามารถแยกแยะได้จริง ๆ (หรือในทางกลับกัน เขาจะทำอย่างไรให้คุณเชื่อว่าเขาสามารถแยกแยะได้จริง ๆ)</p><p>วิธีหนึ่งก็คือให้เขา &quot;สอน&quot; คุณให้รู้ว่า แยกได้อย่างไร นี่รสหวานปะแล่มแบบนี้ ตรงนี้มีความซ่าทู่ ๆ หม่น ๆ แล้วก็สีที่ต่างกันเล็กน้อย... แต่นั่นอาจเป็นความรู้ที่เขาอยากจะเก็บเอาไว้เองก็ได้&nbsp; การยืนยันว่าเขารู้จริง ๆ อาจไม่ต้องใช้การบอกความรู้ทั้งหมดก็ได้</p><p>สมมติว่ามีใครสักคนบอกคุณว่าเขาถอดรากที่สองเป็น คุณจะทดสอบเขาได้อย่างไร?</p><p>ถ้าคุณเองสามารถถอดรากที่สองได้ คุณก็อาจจะสมมติเลขขึ้นมาตัวหนึ่ง ถามเขาไป จากนั้นก็ตรวจคำตอบกับเลขที่คุณคำนวณ&nbsp; อย่างไรก็ตาม คุณอาจจะถอดรากที่สองไม่เป็น แต่ว่า คุณอาจจะบอกเลขไปมั่ว ๆ ให้เขาตอบมา จากนั้นคุณค่อยนำคำตอบที่เขาตอบมายกกำลังสอง ก็จะได้ทราบว่าเขาถอดรากที่สองเป็นหรือไม่</p><p>สังเกตว่าบางครั้ง การตรวจคำตอบอาจง่ายกว่าการหาคำตอบ</p><p><strong>กลับมาที่เป๊บซี่กับโค้ก:</strong>&nbsp; คุณเอาเป๊บซี่กับโค้กมาเทใส่แก้ว ที่เหมือนกัน แล้วสุ่มหยิบมาหนึ่งแก้วให้เขาเอาไปชิม แล้วให้บอกว่าเป็นโค้กหรือว่าเป๊บซี่?&nbsp; ถ้าเขาแยกได้จริง นี่จะไม่ใช่เรื่องยากของเขาเลย แต่ถ้าเขาแยกไม่ได้ โอกาสที่เขาจะตอบถูกจะมีแค่ 1/2&nbsp; ถ้าคุณทำซ้ำๆ ไปสัก 10 ครั้ง แล้วเขาตอบถูกหมด คุณก็น่าจะเชื่อถือเขาได้แล้ว เพราะว่าโอกาสที่จะเดาถูกทุกครั้งครบ 10 ครั้ง มีน้อยกว่า 1 ใน 1000 เสียอีก</p><p>แนวคิดง่าย ๆ นี้ เป็นหนึ่งในตัวอย่างของการพิสูจน์ด้วยการปฏิสัมพันธ์ (<a href="http://en.wikipedia.org/wiki/Interactive_proof_system">interactive proof</a>) ซึ่งมีพลังในการพิสูจน์มาก</p><p>อย่างไรก็ตาม ในกรณีข้างต้น ยังเป็นการพิสูจน์ที่เป็นแบบไม่ให้ความรู้ (<a href="http://en.wikipedia.org/wiki/Zero-knowledge_proof">zero-knowledge</a>) อีกด้วย&nbsp; นั่นคือหลังจากการยืนยันของผู้พิสูจน์แล้ว คนที่สอบถาม (คนทดสอบ) รู้แค่ว่าสิ่งที่ผู้พิสูจน์ยืนยันมานั้นเชื่อได้ แต่ไม่รู้อะไรอย่างอื่นเพิ่มเลย</p><p>การพิสูจน์แบบไม่ให้ความรู้นั้น ยังเป็นพื้นฐานของการสร้างระบบความปลอดภัยอีกด้วย&nbsp;</p> 2007-12-01T21:23:16+07:00 false 588 2008-03-01T21:59:29+07:00 false false 2007-12-06T09:36:00+07:00 13 14 2 true <p>โฆษณาขายพริ้นเตอร์ของประเทศออสเตรเลีย พูดถึงกลศาสตร์ควอนตัม:</p><p><object classid="clsid:D27CDB6E-AE6D-11cf-96B8-444553540000" codebase="http://download.macromedia.com/pub/shockwave/cabs/flash/swflash.cab#version=6,0,29,0" width="425" height="353"><param name="movie" value="http://www.youtube.com/v/saWCyZupO4U&amp;rel=1" /><param name="quality" value="high" /><param name="menu" value="false" /><param name="wmode" value="" /><embed src="http://www.youtube.com/v/saWCyZupO4U&amp;rel=1" wmode="" quality="high" menu="false" pluginspage="http://www.macromedia.com/go/getflashplayer" type="application/x-shockwave-flash" width="425" height="353"></embed></object>&nbsp;</p><blockquote><p><strong>นางแบบ 1</strong>: แต่ถ้ากลศาสตร์ควอนตัมไม่ใช่ฟิสิกส์ในรูปแบบทั่วไป --- ถ้าไม่ใช่เรื่องเกี่ยวกับสสาร พลังงาน หรือว่าคลื่น --- แล้วมันเกี่ยวกับอะไร?<br /><br /><strong>นางแบบ 2</strong>: อืม... ในความคิดของฉันนะ มันเกี่ยวกับสารสนเทศ ความน่าจะเป็น รวมถึงสิ่งที่สังเกตได้ และความเกี่ยวข้องกันของเรื่องเหล่านี้<br /><br /><strong>นางแบบ 1</strong>: น่าสนใจนี่!</p></blockquote>บทสนทนาน่าฟัง (และสับสน) ข้างต้น จริง ๆ แล้ว &quot;ลอก&quot; มาจากคำบรรยายวิชา<a href="http://www.scottaaronson.com/democritus/lec9.html">การคำนวณเชิงควอนตัมนับแต่ดิโมคริตัส</a> (Quantum Computing Since Democritus) ของ<a href="http://scottaaronson.com/blog/?p=277">สก็อต อารอนสัน</a> อาจารย์ที่ MIT แบบคำต่อคำ (ยกเว้นเฉพาะประโยคว่า &quot;น่าสนใจนี่&quot; ในคำตอบหลังของนางแบบ 1) 2007-10-04T16:47:59+07:00 false 518 2007-10-07T18:59:00+07:00 false false 2007-10-04T16:50:50+07:00 13 14 2 true <p><a href="http://en.wikipedia.org/wiki/Terence_Tao">Terence Tao</a> เป็นนักคณิตศาสตร์ที่ได้รับรางวัลฟิลด์เมื่อปี 2006 (รางวัลที่เทียบเท่ากับรางวัลโนเบลของสาขาคณิตศาสตร์ มีการมอบรางวัล 4 ปีครั้ง ให้กับนักคณิตศาสตร์ที่อายุไม่เกิน 40 ปี) นอกจากนี้เขายังเคยเป็นผู้เข้าแข่งขันคณิตศาสตร์โอลิมปิคที่ได้รับเหรียญทองที่มีอายุน้อยที่สุดในปัจจุบันอีกด้วย ปัจจุบันเขาสอนที่ UCLA</p><p>Terence Tao มี<a href="http://terrytao.wordpress.com/">บล็อก</a> ในนั้นมี</p><div align="center"><a href="http://terrytao.wordpress.com/career-advice/">คำแนะนำสำหรับการเริ่มอาชีพของนักคณิตศาสตร์</a></div><p>ซึ่งมีตั้งแต่เป็นเด็กจนเรียนจบบัณฑิตศึกษาเลยทีเดียว&nbsp; แน่นอนว่าหลาย ๆ อันเป็นคำแนะนำเกี่ยวกับการทำวิจัยด้วย&nbsp; เลยเอาลิงก์มาแปะที่นี่ เผื่อจะมีคนสนใจนะครับ</p> 2007-10-02T08:24:02+07:00 false 508 2008-01-31T18:01:49+07:00 false false 2007-10-02T08:24:55+07:00 0