Kyoto Information and Society Seminar (KISS)では、情報学から数理科学や人文学まで様々な研究分野や、情報技術の社会応用や社会実装の分野で活躍されている方々にご講演いただくセミナーを開催しています。開催頻度は月1,2回を予定しています。本セミナーに興味のある方は自由にご参加ください。また、発表を希望される方はtakeuchi@i.kyoto-u.ac.jpまでご連絡ください。 [English page]

• 世話人
  • 松下 旦 (京都大学、東京大学マーケットデザインセンター)
  • 新 恭兵 (京都大学)
  • 包 含 (京都大学)
  • 竹内 孝 (京都大学、理研AIP)

現在のスケジュール

• [KISS-001] Outlier-Robust Neural Network Training: Efficient Optimization of Transformed Trimmed Loss with Variation Regularization
  • Presenter: 奥野 彰文 (統計数理研究所 助教（兼・総研大 助教 / 理研AIP 客員研究員)) [web]
  • Date：10/8 13:30-15:00
  • Location：7号館 情報3講義室 (1階 104)
  • Abstruct:
    In this study, we consider outlier-robust predictive modeling using highly-expressive neural networks. To this end, we employ (1) a transformed trimmed loss (TTL), which is a computationally feasible variant of the classical trimmed loss, and (2) a higher-order variation regularization (HOVR) of the prediction model. Note that using only TTL to train the neural network may possess outlier vulnerability, as its high expressive power causes it to overfit even the outliers perfectly. However, simultaneously introducing HOVR constrains the effective degrees of freedom, thereby avoiding fitting outliers. We newly provide an efficient stochastic gradient supergradient descent (SGSD) algorithm for optimization and its theoretical convergence guarantee. (This work is a joint work with Shotaro Yagishita (ISM))

過去のスケジュール