1、exception in thread "main" org.apache.spark.sql.catalyst.analysis.nosuchdatabaseexception: database 'portrait' not found;
at org.apache.spark.sql.catalyst.catalog.sessioncatalog.org$apache$spark$sql$catalyst$catalog$sessioncatalog$$requiredbexists(sessioncatalog.scala:121)
at org.apache.spark.sql.catalyst.catalog.sessioncatalog.gettablemetadata(sessioncatalog.scala:266)
at org.apache.spark.sql.execution.command.loaddatacommand.run(tables.scala:242)
--在使用spark sql 時,出現這個問題。
1、確定自己的遠端電腦上有hive 庫 portrait。
2、檢視sparksession 初始化時,是否啟動enablehivesupport(),專案的resouces 檔案下copy hive-site.xml
一般到這裡,問題是可以解決的,如果還沒有解決,檢視spark sql 的版本,和安裝的 hive版本是否相同。
use hivehadoop01;
select * from version;
清除本地生成metasotre_db 及 spark-warehouse 目錄。重新生成即可。解決問題。
spark sql hive批量匯入文字檔案
在很多情況下,會需要將批量生成 如按天生成的記錄 匯入到hive中。針對這種應用場景,進行實驗。首先需要進行檔案目錄的遍歷,借助scala強大的函式式程式設計能力,利用array中的map函式進行操作即可。如函式如下 def loadintohive sc hivecontext,dir strin...
apache整合tomcat後中文亂碼問題
因為工作需要做了乙個apache tomcat的環境,除錯專案的時候發現部分中文有亂碼。查詢相關資料後,發現只要將tomcat的server.xml中這裡加上粗體部分uriencoding utf 8 就可以了。如果8080埠裡沒指定編碼,也要加上這句。ps 我的專案是utf 8編碼的,所以是uri...
spring shiro整合時自動注入的問題
spring mvc和shiro進行整合時,我採用的是註解的方式,也就是 autowired,發現service服務無法再自定義的realm中進行注入,會出現以下錯誤。error creating bean with name shirofilter defined in class path re...