Думаю следующим прорывом будет когда нейронки научат говорить я не знаю. Сейчас когда они сталкиваются с вопросом, который не видели в обучающих материалах хоть в каком то виде, они начинают нести чушь и это просто значит я не знаю. Тогда идешь сам копать. Они экономят кучу времени на ответы хорошо известные, а таких вопросов большинство.