[1차] 뉴스 클러스터링

LEEHAKJIN-VV·2022년 6월 23일
0

프로그래머스

목록 보기
35/37

출처: 프로그래머스 코딩 테스트 연습

문제 설명

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

  • 카카오 첫 공채..'블라인드' 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. "코딩 실력만 본다"
  • 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

  • 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.

  • 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.

  • 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

입출력 예

str1str2answer
FRANCEfrench16384
handshakeshake hands65536
aa1+aa2AAAA1243690
E=M*C^2e=m*c^265536

내가 제출한 코드

let JACARD_VALUE: Int = 65536

func solution(_ str1:String, _ str2:String) -> Int {
    let multiSet1 = getMultiSet(str1.map{String($0)}) // str1의 다중 집합
    let multiSet2 = getMultiSet(str2.map{String($0)}) // str2의 다중 집합
    
    if multiSet1.isEmpty && multiSet2.isEmpty { // 둘다 공집합인 경우
        return JACARD_VALUE
    }  
    
    return jaccardSimilar(multiSet1, multiSet2)
}

// 다중 집합 얻기
func getMultiSet(_ strings: [String]) -> [String] {
    var multiSet: [String] = []
    
    for i in 0..<strings.count - 1 { // 다중집합의 수 = 문자열 길이 - 1
        if Character(strings[i]).isLetter && Character(strings[i+1]).isLetter{
            multiSet.append(strings[i].lowercased() + strings[i+1].lowercased())
        } 
    }
    return multiSet
}

// 자카드 유사도 계산
func jaccardSimilar(_ str1Array: [String], _ str2Array: [String]) -> Int {
    var intersectionCount: Int = 0 // 교집합 수
    var unionCount: Int = 0 // 합집합 수
    let multiSet1: Set = Set(str1Array)
    let multiSet2: Set = Set(str2Array)
    
    for subSet in multiSet1.intersection(multiSet2) { // 2개의 부분집합에 모두 속하면서, 개수가 최소 -> 교집합
        intersectionCount += min(str1Array.filter{$0==subSet}.count, str2Array.filter{$0==subSet}.count)
    }
    
    for subSet in multiSet1.union(multiSet2) { // 2개의 부분집합에 모두 속하면서, 개수가 최대 -> 합집합
        unionCount += max(str1Array.filter{$0==subSet}.count, str2Array.filter{$0==subSet}.count)
    }
    return JACARD_VALUE * intersectionCount / unionCount   
}

코드 설명

이번 문제는 두 개의 문자열의 자카드 유사도를 구하는 문제이다. 자카드 유사도는 실무에서 유사 문서를 판별할 때 자주 사용된다고 한다. 자카드 유사도를 구하기 위해서 두 다중집합의 교집합과 합집합을 구해야 한다. 자카드 유사도는 원소의 중복을 허용하는 다중집합에 사용이 가능하다. 그러므로 단순한 합집합이나 교집합을 구하는 것이 아닌, 어떠한 트릭이 필요하다.

본 풀이에서는 자카드 유사도에 사용되는 교집합과 합집합을 구하는 원리를 이용하여 집합을 구한다. 이 원리는 코드를 설명할 때 자세히 다룬다.

우선 자카드 유사도를 구하기 위해 입력된 두 문자열을 기반으로 다중집합을 구해야 한다. 아래 코드는 다중집합을 구하는 코드이다.

// 다중 집합 얻기
func getMultiSet(_ strings: [String]) -> [String] {
    var multiSet: [String] = []
    
    for i in 0..<strings.count - 1 { // 다중집합의 수 = 문자열 길이 - 1
        if Character(strings[i]).isLetter && Character(strings[i+1]).isLetter{
            multiSet.append(strings[i].lowercased() + strings[i+1].lowercased())
        } 
    }
    return multiSet
}

문자열의 다중집합은 두 글자씩 끊어서 만든다. 그러므로 문자열의 길이가 n이라면 다중 집합의 크기는 n-1이 된다. 그리고 영문자로만 된 글자 쌍만 유효하므로 나머지 기타 문자는 제거하며, 대소문자를 구분하지 않기 때문에 모든 문자열을 소문자로 변환한다.

이제 얻은 다중집합으로 자카드 유사도를 계산해야 한다. 아래 코드는 얻은 다중집합으로 교집합과 합집합을 구해 자카드 유사도를 계산한다.

// 자카드 유사도 계산
func jaccardSimilar(_ str1Array: [String], _ str2Array: [String]) -> Int {
    var intersectionCount: Int = 0 // 교집합 수
    var unionCount: Int = 0 // 합집합 수
    let multiSet1: Set = Set(str1Array)
    let multiSet2: Set = Set(str2Array)
    
    for subSet in multiSet1.intersection(multiSet2) { // 2개의 부분집합에 모두 속하면서, 개수가 최소 -> 교집합
        intersectionCount += min(str1Array.filter{$0==subSet}.count, str2Array.filter{$0==subSet}.count)
    }
    
    for subSet in multiSet1.union(multiSet2) { // 2개의 부분집합에 모두 속하면서, 개수가 최대 -> 합집합
        unionCount += max(str1Array.filter{$0==subSet}.count, str2Array.filter{$0==subSet}.count)
    }
    return JACARD_VALUE * intersectionCount / unionCount   
}

이제 앞에서 언급했던 합집합과 교집합을 구하는 원리에 대해서 설명한다. 문제 설명에서 기술된 예시인 다중집합 A={1,1,2,2,3} B={1,2,2,4,5}을 보면 교집합은 {1, 2, 2} , 합집합은 {1, 1, 2, 2, 3, 4, 5}인 것을 확인할 수 있다.

교집합과 합집합을 자세히 보면 구하는 원리를 알 수 있다. 우선 교집합은 말 그대로 두 다중집합에 공통으로 포함되는 원소로 구성된다. 그러나 두 다중집합의 제일 작게 나타난 횟수만큼 교집합에 포함된다. 위 경우에서 1인 경우 집합A에서는 두 번 포함되나, B에서는 한 번만 포함된다. 그러므로 교집합에는 숫자1이 한 번만 포함된다. 2인 경우에는 두 집합 모두 두 번 포함되므로 교집합에도 두 번 포함된다.

즉 교집합은 두 집합의 공통 원소를 포함하는데, 이 횟수를 두 집합 중에서 가장 작게 포함된 횟수를 따라가는 것이다. 그러므로 코드에서는 filter 메소드를 통해 각 집합마다 포함된 횟수를 찾고 min함수를 이용하여 두 집합 중 최소 포함 횟수를 찾는다. 이를 두 집합의 공통 원소를 모두 반복하면 우리는 다중집합의 교집합을 얻을 수 있다.

합집합의 경우에는 교집합처럼 두 집합의 합집합을 얻고, 최소 포함 횟수가 아닌 최대 포함 횟수를 따라가면 된다. 그래서 위 예에서 1이 한번 포함되는 것이 아닌 두 번 포함되는 것을 확인할 수 있다. 마찬가지로 filter 메소드와 최대 횟수를 알기 위해 max 함수를 사용한다.

이제 두 다중집합의 교집합의 수와 합집합의 수를 얻었으므로 두 문자열 사이의 자카드 유사도를 계산하여 우리가 원하는 답을 얻으면 된다.

0개의 댓글