問題:spark實時處理資料報錯 Spark Structured Streaming kafka 報錯 Caused by: com.fasterxml.jackson.databind.JsonMappingException: Incompatible Jackson version: 2.9.6
![](https://img.laitimes.com/img/__Qf2AjLwojIjJCLyojI0JCLiAjM2EzLcd3LcJzLcJzdllmVldWYtl2Pn5GcuImZjRTOhhTYwkjMjZGMjBDNkJTN3EjNkNjMmJjMxMGOvwVNygDMzETMtUGall3LcVmdhNXLwRHdo9CXt92YucWbpRWdvx2Yx5yazF2Lc9CX6MHc0RHaiojIsJye.png)
問題在于spark目前使用的Jackson是2.6+,而storm-kafka-client和kafka使用的是2.9+,兩者之間gradle預設使用最新的依賴2.9+,是以spark structure Streaming程式運作時報錯,不相容jackson高版本。
解決:
gradle 修改如下
compile (group: 'org.apache.storm', name: 'storm-kafka-client', version: '1.2.2'){
//解決與spark core jackson版本沖突
exclude group:"com.fasterxml.jackson.core"
}
compile (group: 'org.apache.kafka', name: 'kafka_2.11', version: '1.1.1'){
exclude group:"com.fasterxml.jackson.core"
}
複制
正常運作